自生成式AI技术兴起以来，尽管开发者与用户一直在努力确保其安全性和准确性，相关的侵权争议及真实性疑虑却始终如影随形。近期，OpenAI对一家印度初创公司Delphi AI采取了处罚措施，因其开发了一款模仿美国民主党总统大选候选人的聊天机器人Dean.bot，违反了使用条款，从而成为首个遭受OpenAI处罚的开发商。
Dean.bot：模拟政治人物口吻与选民交流
据《华盛顿邮报》等外媒报道，OpenAI已对Delphi AI实施了停权处理，原因是该公司利用ChatGPT的定制版本——Dean.bot，来模拟民主党总统候选人Dean Phillips的口吻与选民进行在线对话。Delphi AI打造Dean.bot的目的是为了帮助Phillips进行宣传，而Phillips此前已宣布将竞选民主党总统候选人，挑战现任总统拜登。
这款AI聊天机器人Dean.bot能够模拟Phillips的说话风格，在网站上即时与选民互动。据悉，Delphi AI是接受了由美国企业家Matt Krisiloff和Jed Somers成立的超级行动政治委员会（Super PAC）的委托，利用OpenAI的GPT技术，定制化开发了这款聊天机器人。
OpenAI处罚Delphi AI
尽管网站明确标注了Dean.bot的对话是由AI生成的，并非来自Phillips本人，但这仍然违反了OpenAI的服务使用政策。目前，Dean.bot已被下架，而Delphi AI也被OpenAI停权，成为首个因不当使用AI技术而受到处罚的开发商用户。
OpenAI在声明中指出，他们最近移除了一个开发商账号，原因是该账号违反了其禁止将API用于政治竞选或未经同意模仿个人的政策。鉴于2024年包括美国、印度和南非在内的多个国家将举行大选，OpenAI还发布了使用规范，以防止其生成式AI技术被用于选举操纵。