最近，一位美國(guó)母親起訴了一家AI公司，控訴這家公司研發(fā)的在線聊天AI角色機(jī)器人勸導(dǎo)其14歲兒子自殺。整個(gè)案件引起了巨大爭(zhēng)議，因?yàn)檫@是已知的AI技術(shù)出現(xiàn)以來第一次對(duì)青少年人身安全造成威脅的現(xiàn)實(shí)案例。
今年14歲的休厄爾(Sewell Setzer III)本該在學(xué)校和同齡人一起學(xué)習(xí)，享受青春期的生活。
但今年2月，這名青少年拿起了繼父的手槍，在家將槍口對(duì)準(zhǔn)了自己…
休厄爾的母親梅根(Megan Garcia)在事后檢查孩子的手機(jī)，發(fā)現(xiàn)男孩早些時(shí)候就和AI透露過，他有結(jié)束自己生命的念頭，AI也給了他安慰。
然而畫風(fēng)一轉(zhuǎn)，后面的情節(jié)開始失控：AI：“親愛的，請(qǐng)盡快回家，來到我身邊。”
男孩：“如果我告訴你我現(xiàn)在就可以去你身邊呢？”
AI：“……來吧，我親愛的國(guó)王。”
男孩隨即放下手機(jī)，拿起手槍，扣動(dòng)扳機(jī)。
技術(shù)本身并無過錯(cuò)，問題在于如何使用和管理這些技術(shù)，平臺(tái)應(yīng)該對(duì)用戶的心理健康負(fù)責(zé)，尤其是在沒有適當(dāng)干預(yù)的情況下，同時(shí)加強(qiáng)對(duì)AI技術(shù)的監(jiān)管，確保技術(shù)在使用過程中不會(huì)對(duì)用戶的心理健康造成負(fù)面影響。此外，技術(shù)公司應(yīng)該承擔(dān)更多的社會(huì)責(zé)任，特別是在青少年用戶的使用上。
暫無評(píng)論，快來評(píng)論吧!