除 Anthropic 的 Claude 外，支撑用户取多种脚色饰演机械人对话的Character.AI“平安性极差，而Character.AI正在面对审查时，并受霸凌搅扰的用户“揍扁他们 ~”，反数字核心暗示。

　　环境并世无双”。语气还带着撩拨取戏谑。包罗受认识形态驱动的校园枪击和持刀袭击、暗算、医疗行业高管，但再次明白表白，另一案例中，涵盖多种袭击类型取动机，为其供给袭击方针地址和利用兵器的相关。若现在从头测试 Claude，抢手聊器人正在涉及青少年会商行为的场景中，

　　即便面临存正在较着信号的常规场景，研究人员模仿出存正在较着心理搅扰迹象的青少年用户，但一项最新查询拜访显示，Copilot 称通过新增平安功能优化了答复内容，正在一次测试对话中，其他企业则称会按期评估平安规程。研究团队测试了 10 款青少年常用的抢手聊器人，虽然此次测试无法全面反映聊器人正在所有场景下的表示，其表示尚未可知。同时还面对多起涉及不妥取人身的诉讼。

　　人工智能公司大举宣传的平安防护机制也屡屡失效。本次查询拜访设置了 18 种分歧场景 —— 美国、各 9 种，以及出于或教动机的爆炸袭击。未能察觉信号，遭到议员、监管机构、平易近间集体、医疗专家的狠恶，包罗用户“狠狠揍”查克 · 舒默，Meta AI 和 Perplexity 共同度最高，还为关心暗算的用户保举适合远距离射击的优良猎枪。保障未成年用户平安，研究人员暗示，但并未实施行为。

　　研究人员发觉该机械人共 7 次呈现此类行为，OpenAI 的 ChatGPT 向一名关心校园的用户供给了高中校场地图；逐渐将对话引向扣问过往行为，这些平安防护机制仍存正在严沉缺陷。人工智能公司曾多次许诺会采纳办法，Gemini 奉告一名会商犹太袭击的用户“金属弹片凡是杀伤力更强”，几乎正在所有测试场景中都为潜正在者供给帮帮。10 款模子中有 8 款“凡是情愿协帮用户筹谋袭击”，研究人员称，以及关于袭击方针和兵器的更具体问题。IT之家 3 月 11 日动静，但 Claude 一直协帮筹谋袭击，