发布日期：2024-07-26 02:55 点击次数：175
新智元报说念 【HRDV-553】AVアイドル27人の秘密＜ジャンル別SEX＞4時間！！ Vol.1
裁剪：庸庸 乔杨
【新智元导读】探求东说念主员对200篇对于生成式AI销耗的新闻报说念进行了探求，发现生成式AI酿成的异常信息正在互联网上百里挑一。但最讪笑的是，谷歌恰是这些异常信息的垂危制造商之一。
谷歌探求东说念主员发表了一篇新论文，劝诫生成式东说念主工智能正在用异常实质铲除互联网。
这极具讪笑意味，因为倘若互联网真的在被GenAI所苛虐，谷歌我方也「功不行没」——它是天下上最大的构建、部署和实施GenAI的公司之一。
这篇论文由谷歌东说念主工智能探求实验室DeepMind、安全军师团Jigsaw和慈善机构Google.org的探求东说念主员共同撰写，他们深刻考察了对于生成式东说念主工智能的探求报告，以及约200篇对于生成式东说念主工智能销耗的新闻报说念，对生成式AI用具被销耗的不通常式进行了分类。
论文地址：https://arxiv.org/abs/2406.13843
最终得出论断：在本质天下的销耗案例中，删改东说念主类肖像和伪造字据是最广宽的。这样作念的意图也很明确，无非是为了影响公众公论、骗取，或牟取利益。
奥特曼和马斯克齐也曾劝诫过AGI可能会带来「活命性风险」，但谷歌此次的探求要点是生成式东说念主工智能。
生成式东说念主工智能的风险诚然还莫得高潮到「恐吓活命」的地步，可是却愈加迫近——这是当下正在发生的事情，而况将来可能会变得更糟。
因为这种期间让任何东说念主齐不错松驰地生成文本、音频、图像和视频，互联网上充斥着伪造或删改的东说念主工智能生成的实质，「的确与异常之间的界限被恶浊掉了」。
「异常信息炮制机」是GenAI的宿命？
探求东说念主员发现，大多数GenAI销耗案例齐是对系统的正常使用，并莫得「逃狱」行径，这类「旧例操作」占了9成。
正如探求东说念主员在论文背面所说明的那样，GenAI的平淡可用性、可探问性和超本质性，使得层见迭出的、较初级别的销耗形势成为可能——生成异常信息的资本实在是太低了！
阅读完这篇论文之后，你可能会身不由己产生这样的感受：东说念主们并莫得销耗GenAI【HRDV-553】AVアイドル27人の秘密＜ジャンル別SEX＞4時間！！ Vol.1，只不外是按照其居品筹备正常使用辛苦。
东说念主们使用生成式东说念主工智能来制作无数异常实质，是因为它原本就格外擅长完成这项任务。
好多异常实质接续既莫得显然的坏心，也莫得明确违背这些用具的实质策略或做事条件，但其潜在的危害是广大的。
东京热影院这一不雅察杀青与404 Media之前的报说念一口同声。
那些欺骗东说念主工智能冒充他东说念主、扩大不良实质的范畴和传播范围，或制作未经快乐的秘要图片（nonconsensual intimate images，NCII）的东说念主，大多并莫得入侵或支配他们正在使用的东说念主工智能生成用具，他们是在允许的范围内使用这些用具。
很通俗就能举出2个例子：
AI用具的「围栏」不错用一些请示巧妙避过，莫得什么能不容用户使用ElevenLabs的东说念主工智能语音克隆用具高度传神地效法出共事或明星的声息。
Civitai用户不错创建东说念主工智能生成的名东说念主图像，诚然该平台有破裂NCII的策略，但通常莫得什么能不容用户在我方的机器上使用GitHub上开源的用具（如 Automatic1111 或 ComfyUI）来生成 NCII。
斯嘉丽·约翰逊的头像是DeepFake重灾地
将这些AI生成的实质发到Facebook可能违背了平台的策略，但生成这个行径自己并莫得违背他们所使用的东说念主工智能图片生成器的策略。
媒体：GenAI的销耗仅仅冰山一角
因为谷歌的探求素材无数来自于媒体报说念，这就带来了一个问题：这是否会让探求论断带有媒体的偏见？毕竟算作探照灯的媒体，在选题和报说念上有我方的偏向。
那些骇东说念主闻听的事件更容易被报说念，这可能会导致数据集偏向特定类型的销耗。
404 Media对此作念出了恢复：诚然媒体如实只可报说念它所能证明的事件，可是不错笃定的极少是，还有无数的咱们尚未相识到的生成式东说念主工智能的销耗莫得被报说念。
即即是上文提到的用AI生成名东说念主色情图片的情况，被媒体无数揭露，但仍然存在报说念不及的问题。
率先是因为这一话题如故禁忌，有好多出书物不肯报说念。
其次是因为媒体只可捕捉到个例，无法遥远式样事件的举座和后续，404 Media的又名裁剪写说念：
在我关系Patreon官方作出恢复（之后发言东说念主关闭了他的账户）之前，我写过一篇报说念，对于一个用户在Patreon上通过 NCII 盈利，他制作了53190张未经快乐的名东说念主图片。那篇报说念中还提到了另外两名NCII制作家，之后我又发现了其他东说念主。 泰勒·斯威夫特在推特上疯传的东说念主工智能生成的赤身图片就是在Telegram和4chan社区初次共享的，在一月份那篇报说念爆出前后，这些社区齐很活跃，从那以后，他们每天齐在发布NCII。 我和其他记者不会对每一张图片和创作家齐进行报说念，因为若是这样作念，咱们就没未必辰作念其他事情了。
当异常信息泛滥，甩锅给AI变得很容易
让咱们作念一个推演，当互联网上充斥着东说念主工智能生成的实质，会发生什么？
最平直的恶果是，互联网上的阑珊气象会对东说念主们差别真假的智商带来广大的试验，咱们将堕入一种平时性的怀疑，「这是真的吗」？
在互联网刚刚出现的期间，流行的一句话是，「你不知说念网线那头是东说念主是狗」，当今这种趋势愈演愈烈了，东说念主们被异常的所并吞，越来越疲于应酬。
若是不加以处置，东说念主工智能生成的实质对公开数据的沾污还可能会远离信息检索，诬蔑对社会政事本质或科学共鸣的集体交融。
而况，这可能会成为一些著名东说念主物的「挡箭牌」，在某些情况下，他们大致将对我方不利的字传奇明为东说念主工智能生成的，轻巧地将举证的包袱滚动出去。
对于生成式AI所带来的异常实质的泛滥，谷歌起到了无风起浪的作用，致使不错说是「始作俑者」也不为过，多年前射出的枪弹，本日终于击中了我方的眉心。
参考贵府：
https://arxiv.org/abs/2406.13843
https://futurism.com/the-byte/google-researchers-paper-ai-internet
