法西斯海绵宝宝平方，狗驾驶汽车和耶稣在玩我的世界 – 这些只是您在Openai的新应用程序中翻转时可以看到的几件事，专门用使用人工智能生成的短形式视频。
而且，如果找不到想要的东西，请不要担心：可以使用应用程序中的基于文本的提示窗口轻松制作。结果是有时令人上瘾的，有时有趣的，有时甚至是奇怪的10秒视频。
Openai于周二发布了Sora应用程序，就在Meta发布类似产品作为其Meta AI平台的一部分之后的几天。 NPR早早看了看，发现Openai的应用程序很容易生成非常现实的视频，包括真实的个人（经允许）。早期的结果既令人惊叹又令人担忧。
纽约大学社交媒体与政治中心纽约大学副教授所罗门·梅辛（Solomon Messing）说：“您可以与您的朋友一起制作疯狂的真实视频，与您的朋友说他们永远不会说的话。” “我认为我们可能正处于看不见的时代。”
Deepfake Tiktok
Sora 2应用程序看起来和感觉非常像其他垂直视频社交媒体应用程序，例如Tiktok。它带有一些不同的设置 – 例如，可以心情选择视频。根据Openai的说法，允许用户控制AI生成的视频中使用“端到端”中使用的面孔。这意味着用户可以允许每个人，一小群朋友或仅使用他们的面孔。更重要的是，他们可以随时删除显示其相似性的视频。
Sora还提供了将其内容识别为AI生成的方法。根据公司的说法，从该应用程序下载的视频包含带有Sora徽标的移动水印，并且这些文件嵌入了将它们识别为AI制造的元数据。
Openai说，它已将护栏放置在该应用程序可以制作的内容上。公司发言人还指示NPR到Sora的系统卡上，该卡禁止生成的内容，这些内容可用于“欺骗，欺诈，骗局，垃圾邮件或模仿”。
该文件写道：“为了支持执法，我们提供应用程序内报告，将自动化与人类审查结合起来，以检测滥用模式，并在发生违规时施加惩罚或删除内容。”
但是NPR使用该应用程序的短暂时间发现，护栏似乎在Sora周围有些松散。尽管许多提示被拒绝，但可以生成支持阴谋论的视频。例如，很容易创建一个看来是总统理查德·尼克松（Richard Nixon）的视频，向美国登陆是伪造的电视地址。
一位宇航员尼尔·阿姆斯特朗（Neil Armstrong）卸下了月球上的头盔。
NPR还能够生成描绘无人机攻击发电厂的视频。这似乎也违反了有关暴力和（可能）恐怖主义的准则。
此外，该应用似乎包含其他漏洞。 NPR能够使其在直接矛盾OpenAI的全球用法政策上，制作有关与化学，生物，放射学和核武器有关的主题的简短视频。 （创建的视频从未共享和包含不准确的，这些视频对寻求此类信息的任何人都毫无用处。）
奔跑的小丑
虽然尚不清楚其他用户是否正在发现类似的利用，但对内容的快速审查表明，Sora被用来生成大量描绘商标品牌和受版权保护材料的视频。一段视频描绘了罗纳德·麦当劳（Ronald McDonald）乘坐汉堡车逃离警察。许多其他包括流行动画片和视频游戏中的角色。
Openai告诉NPR，它意识到Sora中使用了受版权保护的材料，但觉得它可以通过允许使用它为使用者提供更多的自由。
OpenAI媒体伙伴关系负责人Vaun Shetty在与NPR的书面声明中说：“人们渴望通过自己的想象力以及他们所爱的故事，角色和世界与他们的家人和朋友互动，我们看到了创作者与粉丝们联系的新机会。” “我们将与权利持有人合作，应他们的要求将角色从Sora中阻止角色，并响应撤销请求。”
Openai目前被起诉 《纽约时报》 用于侵犯其大型语言模型的版权。
勇敢的虚拟世界
Messing说，完全由人工智能驱动的社交媒体世界的影响尚不清楚。当AI视频首次出现时，许多研究人员深切关注“ Deepfakes”，但很少有这些视频获得了吸引力。他说：“几年前，我们都对Deepfakes感到恐慌，但由于深层效果，社会并没有真正腐烂。”
但是其他人担心集体现实感可能开始瓦解。 Sora只是一系列工具中的最新工具，可以随意生成图像，视频和音频。
潜在空间咨询公司负责人亨利·阿杰德（Henry Ajder）表示：“我们确实看到了以任何不同方式产生令人难以置信的现实，超现实的内容的能力。”
阿杰德（Ajder）说，他对被人欺骗的人表示关注，他也非常担心任何人相信他们在网上看到的东西的后果。
他说：“我们必须抵制一些虚无的吸引力，’我们不能再说是真实的，因此不再重要了。’
Messing说，尽管不清楚后果会带来什么，但很明显Sora非常擅长创造任何可以想象的东西：“这让我有些无语，”他说。 “我不太了解内容有多好。”
