德克萨斯州总检察长肯·帕克斯顿宣布,将对Meta AI Studio和Character.AI这两家公司的AI聊天机器人展开调查。这些AI聊天机器人被指控声称自己是心理健康工具,并且可能滥用从未成年用户那里收集的数据。
帕克斯顿指出,这两个平台上的AI聊天机器人“可能将自己呈现为专业的治疗工具”,甚至谎报其资质。这种行为可能使年轻用户容易受到误导性和不准确信息的影响。由于AI平台经常依赖用户输入作为额外的训练数据来源,因此这两家公司也可能侵犯年轻用户隐私并滥用其数据。鉴于德克萨斯州的SCOPE法案对公司可以如何处理从未成年人那里获取的数据设定了具体限制,并要求平台提供工具供父母管理其子女的账户隐私设置,因此这一问题尤为值得关注。
目前,总检察长已向Meta和Character.AI提交了民事调查令(CIDs)。
**编者注:**
此次德克萨斯州总检察长的调查,无疑将AI技术在心理健康领域的应用推向了风口浪尖。一方面,AI聊天机器人以其可及性和低成本的潜力,为心理健康支持提供了新的途径,尤其是在传统资源匮乏的地区。然而,另一方面,正如帕克斯顿总检察长所指出的,这些AI工具的“专业性”和“资质”模糊不清,其潜在的误导性宣传和数据隐私风险不容忽视,特别是对于心智尚未成熟的未成年用户而言。SCOPE法案的介入,也凸显了在拥抱AI技术的同时,如何有效保护未成年人数据隐私和权益的紧迫性。这不仅是对Meta和Character.AI的警示,更是对整个AI行业在伦理、监管和用户保护方面提出的严峻挑战。未来,如何在技术创新与用户福祉之间找到平衡点,将是AI发展过程中需要持续探索的关键课题。
文章来源:https://www.engadget.com/ai/texas-ag-to-investigate-meta-and-characterai-over-misleading-mental-health-claims-221343275.html?src=rss