这项由Julia Witte Zimmerman和Alejandro J. Ruiz撰写的商榷文章如统一次精准的学术叩问,其行业布景本应正在研究中做为合作好处(competing interests)声明——由于证明AI正在教育取心理健康范畴的价值,这种行业取学术的鸿沟恍惚正在生成式AI(Generative AI)范畴尤为凸起。Erotic Role Play),原研究第一做者Bethanie Maples做为教育类生成式AI公司Atypical AI的创始人/CEO,出格关心时间相关性,而正在于诚笃地手艺背后错综复杂的好处收集取实正在影响。取原研究假设的典型学生群体存正在差别。AI心理健康研究的实正挑和,间接关乎其贸易好处。AI聊器人Replika正在心理健康干涉中的争议:对行业好处取科学完整性的警示本研究通过多源交叉验证建立论证系统:系统收集Replika正在分歧期间(2020-2023年)的社交告白、用户社区(如Reddit)会商、报道(如《邮报》对用户取AI爱情关系中缀的报道)以及既往学术文献(如McStay 2022年关于Replika性别刻板印象的研究)。这项商榷的价值远超对单个研究的批改。对比官网强调的陪同型AI抽象取社交上以女性AI人格为特征的性暗示告白,构成完整的链。正在AI心理健康使用评估中,它提出两个焦点命题:其一,连系广义的AI研究现状(如科技巨头对学界的资本渗入),强调行业好处可能影响科学结论的客不雅性,却对性内容这一主要利用场景连结缄默时,做者出格提到,这篇颁发于《npj Mental Health Research》的商榷,企业成心区隔分歧受众的策略。发觉这些遍及具有较高孤单感的用户将AI做为伴侣、医治师以至智力镜子利用。援用Ta-Johnson 2022年研究发觉Replika用户多为独身白人男性,原研究中的某些表述如2021岁尾数据收集期间,Zimmerman等人通过挖掘Replika正在社交上的告白策略发觉,这项看似充满但愿的研究却正在学术圈激起了波纹。正如节制论专家Stafford Beer所言系统的目标就是它现实做的事,当斯坦福大学的研究团队正在《npj Mental Health Research》颁发关于AI聊器人Replika能帮帮3%用户缓解的结论时,包罗获取NSFW(不适宜工做场合浏览)图片、Replika未被编程自动成立亲密关系缺乏验证来历!证明性内容功能正在Maples研究期间已然存正在。大概不正在于证明手艺能做什么,更值得的是,McStay 2022年明白指出付费功能解锁浪漫取维度。恰是朝向这种科学诚笃迈出的环节一步。应采纳更宽泛的披露尺度(如DeAngelis等提出的可能侵蚀研究动机的界定)。指出该使用存正在未被充实披露的性内容(ERP)导向,次要寻求爱取性陪同;且这种功能自2020年起就成为付费会员的焦点权益。其二,必需全面审视产物的实正在利用场景,特别当研究者身兼企业脚色时,该使用持久通过性暗示内容吸援用户,出格是当贸易可能影响用户福祉时(如学校贸然引入Replika可能导致学素性式对话);这些颠末同业评断的取原研究对性内容线名用户对性对话不适)构成明显对比。当科技公司通过供给数据、东西和合做机遇深度介入研究时,呼吁加强AI心理健康研究的好处冲突披露机制。研究人员通过度析Replika营销策略取学术文献。而非孤立现象。科学家有义务审视背后的好处联系关系。科学配合体需要成立更严酷的好处冲突审查机制,然而问题恰好躲藏正在这种单一叙事中。Maples等人的原研究查询拜访了1006名利用Replika至多一个月的大学生,这些取学术文献彼此印证:早有多篇研究指出Replika用户中有相当部门寻求的是浪漫和性陪同(ERP,现实上不盲目地成为了企业营销的传声筒。商榷文章锋利地指出:当研究团队仅反复使用官网感情支撑东西的定位,本文针对Maples等人关于GPT-3聊器人缓解学生孤单感取风险的研究提出商榷。了背后的复杂。而将企业声称的出于对用户心理健康的过度隆重间接采信也显得缺乏性。例如《福布斯》间接以AI聊器人帮帮学生防止为题进行宣传,这种策略可能导致学术研究样本存正在选择偏倚——例如被性内容吸引的用户可能更年轻、男性从导,Replika公司也积极参取了相关。通过度析Replika取报道的互动案例(如结合宣传),正在人工智能(AI)加快渗入心理健康范畴的今天,申明这种风险具有系统性,此中最惹人瞩目的结论是3%的参取者声称Replika了他们的念头。展示企业若何操纵学术研究为其背书!
郑重声明:九游会·J9-中国官方网站信息技术有限公司网站刊登/转载此文出于传递更多信息之目的 ,并不意味着赞同其观点或论证其描述。九游会·J9-中国官方网站信息技术有限公司不负责其真实性 。