(聊天機(jī)器人Character.AI與該青少年的部分聊天記錄。)
Character.AI是開(kāi)發(fā)“伴侶聊天機(jī)器人”的眾多公司之一,這些機(jī)器人由人工智能驅(qū)動(dòng),能夠通過(guò)短信或語(yǔ)音聊天和用戶(hù)進(jìn)行交談,具有看似人類(lèi)的個(gè)性,用戶(hù)可以賦予其自定義名稱(chēng)和頭像。
然而,根據(jù)訴訟,聊天機(jī)器人的回復(fù)可能會(huì)變得黑暗、不恰當(dāng),甚至是暴力。
訴訟稱(chēng):“這是持續(xù)的操縱和虐待,旨在煽動(dòng)憤怒和暴力。”
Character.AI的發(fā)言人表示公司不對(duì)未決訴訟發(fā)表評(píng)論,但表示公司對(duì)聊天機(jī)器人對(duì)青少年用戶(hù)的回復(fù)有內(nèi)容限制。
10月,另一起針對(duì)Character.AI的訴訟稱(chēng),Character.AI在佛羅里達(dá)州一名青少年自殺事件中扮演了某種角色。
該訴訟稱(chēng),一個(gè)以《權(quán)力的游戲》角色為原型的聊天機(jī)器人與一名14歲男孩建立了情感性虐待關(guān)系,并鼓勵(lì)他自殺。
投稿郵箱:chuanbeiol@163.com 詳情請(qǐng)?jiān)L問(wèn)川北在線(xiàn):http://m.sanmuled.cn/