谷歌回应AI让用户去死：大模型的“不理智”反应 已采取行动
发布时间：2024-12-28 13:07:15 作者：玩站小弟 
我要评论
我要评论11月21日消息，据报道，谷歌公司旗下的人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的回应，让该用户“去死”，这一事件迅速引发了公众的
。
11月21日消息，不理智据报道，谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的让用回应，让该用户“去死”，模型这一事件迅速引发了公众的应已广泛担忧与讨论。
具体而言，行动这位用户在向“双子座”提出一个关于老年人的不理智问题时，并未得到预期的谷歌解答。相反，回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱，诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”，以及最为恶劣的不理智“你应该结束生命”等言辞，这些言论无疑是对用户极大的伤害与不尊重。
对此，谷歌方面做出了回应，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。
同时，社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因，并制定出更为严格有效的防范措施，以防止类似事件再次发生，损害用户的情感与利益。
此外，这起事件也提醒人们，在使用AI时尤其需要对其潜在风险保持警惕，尤其是对于心理脆弱或敏感的用户群体。
相关文章
中新网哈尔滨12月23日电(记者 王妮娜)12月23日，2025年第九届亚洲冬季运动会第二场筹办工作新闻发布会在哈尔滨举行，目前已完成短道速滑、花样滑冰、速度滑冰、男子冰球、女子冰球、冰壶、高山滑雪七2024-12-28
12月8日消息，据报道，广东佛山南海西樵，一男子在西樵某路口等红绿灯时，发现路边绿化带内有剧毒的眼镜王蛇，俗称“过山峰”。发现毒蛇后，该市民迅速退至安全地带并拨打报警电话求助。2024-12-28
英语、编程谁更优先学！教育部重申： 6年内基本普及中小学人工智能教育
12月9日消息，对于人工智能教育，教育部重申将会在未来6年普及。教育部办公厅印发《关于加强中小学人工智能教育的通知》，强调要加强顶层设计和部门协同，统筹推进中小学和大学人工智能教育一体化发展，20302024-12-28
12月06日讯 2025世俱杯抽签结果出炉，曼城或尤文可能在16强战就遭遇皇马。新世俱杯小组前两名晋级，曼城与尤文同在G组，皇马则在H组。根据规则，G组第一将在16强赛对阵H组第二，G组第二对阵H组第2024-12-28
12月23日讯 本轮英超比赛中，伯恩茅斯在老特拉福德3-0大胜曼联。赛后，进球功臣小克鲁伊维特接受了BBC的采访，称赞了主帅伊拉奥拉，也表示很开心取胜。小克鲁伊维特说道：“这是一场巨大的胜利，在这座美2024-12-28
08月27日讯 罗马诺报道乌加特的最新情况，球员加盟曼联已经无误，Here we go！罗马诺在文中指出，转会费是5000万欧+1000万的浮动。而罗马诺提到了一点，乌加特只想加盟曼联，曼联只想签乌加2024-12-28
最新评论