脸书日前出现一段不实暗示美国总统拜登有恋童癖的影片，但未下架。Meta监察委员会已判定影片未违反公司现行规定，但认为这些规定「无一致性」且过于狭隘地聚焦于AI生成内容。
路透报导，由Meta资助但独立运作的监察委员会（Oversight Board）接获一名用户投诉，有一段关于拜登且经过修改的7秒钟影片上传于Meta旗下社群网站脸书（Facebook），并于去年10月对此案展开审查。
在各界日益担忧民众可能使用新的人工智能（AI）技术左右今年选情之际，Meta监督委员会今天公布的决定，是第一个针对Meta「变造影音内容」政策做出的裁决，这项政策禁止发布特定类型经过窜改的影片。
监察委员会指出，Meta现行政策「缺乏具说服力的理由，无一致性、让用户感到混淆，未能清楚阐明公司试图避免的伤害」。
监察委员会建议Meta更新规定，以涵盖到录音与影片内容，无论内容是否使用AI都应规范，并在辨识出遭移花接木的影音内容上加注标签。
监察委员会并未要求让这项政策适用于照片，仅提醒这么做可能会使Meta因难度太高而无法运行政策。
根据这项裁决，旗下还有Instagram与WhatsApp的Meta在审查期间告知监察委员会，Meta打算更新这项政策，「以因应愈来愈逼真的新AI技术的演化」。
Meta今天在声明中表示，公司正在研究这项裁决内容，并将在60天内公开回应。
上述在脸书上有关拜登的影片，窜改了拜登的真实影像。影片内容是拜登在2022年美国期中选举期间与他的孙女互贴「我投票了」的贴纸，并在她脸颊上亲吻。
Meta监察委员会说，一些修改过的影片版本是自2023年1月开始疯传。
监察委员会在裁决中表示，根据现行政策，Meta保留这段影片没问题。Meta目前的政策禁止以民众无法轻易辨识的方式进行剪辑或合成，且可能误导民众相信影片中的人物说出他们从未说过的言论，以及通过AI制作以假乱真的影片。
监察委员会表示，未经AI修改的内容「四处可见」，「不必然」比AI工具生成的内容「较不具误导性」。
监察委员会说，这项政策也应该适用于纯音档内容，以及描述民众在做他们从未做过的事的影片。
委员会又说，运行措施应该包括在内容上加注标签，而不是像Meta当前的做法，选择自平台上移除贴文。