像ChatGPT这样的人工智能(AI)工具已经成为主流，在背后推动这种科技的公司正投入数十亿美元，看好它们将改变我们的生活和工作方式。
但伴随这项承诺而来的是不断出现的令人担忧的头条新闻，其中一些强调AI在回答问题或命令时可能会产生偏见或不准确。包括ChatGPT在内的生成式AI工具被指控侵犯版权。令人不安的是，有些已被用来产生未经同意的亲密图像。
最近，当泰勒丝(Taylor Swift)的AI生成色情图片在社群媒体上传播时，「深伪」的概念成为人们关注的焦点，凸显出主流AI技术带来的破坏性潜力。
拜登总统在2024年国情咨文演讲中敦促国会通过立法来监管AI，包括禁止「AI语音模仿等」。他表示，立法者需要「利用AI的承诺，保护我们免受其危险」，并警告如果不加以控制，这项技术将给美国人带来风险。
在他发表声明之前，最近发生一场模仿他的声音并针对数千名新罕布夏州初选选民的虚假机器人电话活动，当局指称这是一次AI干预选举的尝试。即使虚假资讯专家警告AI对民意调查和公共话语的威胁，但很少有人预计国会会在分裂的选举年通过立法控制AI产业。
但这并不能阻止大型科技公司和AI公司继续吸引消费者和企业的新特性和功能。
最近，ChatGPT创作者OpenAI推出了名为Sora的新AI模型，据称该模型可以根据快速文本提示创建「现实」和「富有想像力」的60秒影片。微软已将AI助理Copilot加入其产品套件中，其中包括Word、PowerPoint、Teams和Outlook等全球许多企业都在使用的软件。该AI助理是以ChatGPT的技术为基础。谷歌也推出AI聊天机器人Gemini，它已经开始取代一些Android设备上的Google Assistant功能。
专家十分关切
AI研究人员、教授和法律专家对监管机构有能力或愿意控制AI之前的大规模采用感到担忧。数百名专家签署一封公开信，要求AI公司做出政策改变，并同意遵守AI安全原因和责任的独立评估。
公开信中指出，「生成式AI公司应该避免重蹈社群媒体平台的覆辙，其中许多平台实际上已经禁止了旨在追究其责任的研究类型，并威胁采取法律行动、发出停止函或其他方法来施加关于研究的寒蝉效应。」
它补充说，一些生成式AI公司已经暂停了研究人员的帐户，并改变了服务条款，以阻止某些类型的评估，并指出「剥夺独立研究人员的权力不符合AI公司自身的利益」。
不到一年前，包括马斯克在内的一些科技巨头呼吁AI实验室至少6个月内停止训练最强大的AI系统，理由是「对社会和人类构成巨大的风险」。但研发工作从未停止。
布朗大学计算机科学家兼教授文卡塔苏布拉马尼安(Suresh Venkatasubramanian)表示：「我在AI领域看到的最令人担忧的事情是承诺与实践之间持续存在的差距。」他也是签署信件的专家之一；他于2021年被任命为白宫科技政策办公室成员，协助就AI政策提供建议。
他表示：「广泛使用的主要生成式AI系统的访问权限由少数公司控制。」这些系统很容易出错，并可能产生破坏性内容，「如果没有独立评估AI的能力，并且担心法律威胁，研究人员将继续很难完成评估生成式AI系统的安全性和可信度，以便政策制订者充分了解情况采取行动。」
他期待政策制订者和白宫管理和预算办公室正在进行的工作，以澄清和制订「通用规则」。白宫管理和预算办公室负责监督拜登总统在整个行政部门的愿景。
普林斯顿大学计算机科学教授纳拉亚南 (Arvind Narayanan)也签署了这封信，他也支持前者的看法；他特别担心AI加速发展的速度，因为这远快于我们的适应能力。
他表示：「科技公司通过商业模式致富，靠新科技的好处获取利润，而成本则由社会承担。」他承认早在生成式AI出现前就已经出现这种情况。
他补充说：「针对特定危害设置围篱是必要的，但它们不会修复潜在的商业模式。」
他认为更大胆的改革可能也是必要的，例如对AI公司征税以资助社会安全网。
目前，当今的生成式AI用户必须了解使用与所需目标相距甚远产品的局限性和挑战。