马里兰州检察官25日表示，巴尔的摩派克斯维尔高中(Pikesville High School)体育主任达连(Dazon Darien)涉嫌利用人工智能(AI)软件伪造校长的声音，音档内容包括种族歧视与反犹太言论。
巴尔的摩郡州检察官薛伦伯格(Scott Shellenberger)表示，此案是全美第一宗涉及AI的案件，呼吁当局制定新法规侦测，并修法应对滥用新科技的有心人士。
美联社引述巴尔的摩郡警方说法报导，派克斯维尔高中体育主任达连伪造该校校长的声音，回应两人对于达连工作表现不佳，以及是否续聘的谈话内容。
警方表示，达连还假借该校女足教练的名义，支付1900元给室友。
警方在起诉书中写道，达连还伪造一段音档，称校长不满意非裔学生的考试成绩；此外，这段音档还录到校长诋毁犹太人和两名教师。
法院文档指出，这段音档迅速在社群媒体上流传，害该名校长被停职及其他「深远影响」。
当局表示，这段录音让校长及其家人面临「庞大风险」，需要警察在他家站岗维安。
警方表示，这段音档在社群媒体引发仇恨风波，许多不满人士打电话到学校，不仅影响校园活动且让教职员感到不安；起诉书写道，「教师担心校园多个角落被装窃听器」。
31岁的达连被控盗窃、干扰学校活动、跟踪和报复一名证人，他25日以5000元交保，不清楚他是否请律师。
薛伦伯格认为，马州议会需要革新州法，应对新技术带来的邪恶可能性，例如干扰学校活动「只能判6个月」，「但我们需要广泛研究AI若遭滥用，可能造成何等伤害。」
巴尔的摩刑事探员已协请专家分析达连的音档，丹佛科罗拉多大学(CU Denver)教授告诉警方，音档「包含AI生成内容的痕迹，且经人为编辑增加拟真的背景噪音。」柏克莱加州大学(UC Berkeley)教授则表示，这段音档「拼凑多段录音」而成。
法院文档指出，巴尔的摩郡检方发现达连使用大型语言模型(Large language model)，如OpenAI和Bing Chat，这些模型可指导用户如何创造合成影音。
