左图：可疑的学生；右图：可疑的多力多滋薯片包装袋。
4. 谷歌声称其人工智能利用微型蜜蜂为计算机提供动力
今年二月，谷歌的AI概览竟然自信地引用了一篇愚人节讽刺文章。声称微小的蜜蜂为计算机提供动力，作为事实信息。
不，你的电脑不是靠蜜蜂供电的。
听起来或许很荒谬，但有时候这些谎言确实很难识破。而这些案例最终可能会导致严重的后果。
这只是人工智能公司缺乏哪怕一丝常识就散布虚假信息的众多案例之一。学习英国广播公司 (BBC) 和欧洲广播联盟 (EBU) 的一项研究发现，81% 的人工智能生成的新闻问答都存在问题。谷歌 Gemini 的表现最差，其 76% 的问答都存在问题，主要是严重的来源错误。Perplexity 被发现会捏造完全虚构的引言，并将其归于工会和政府机构。最令人震惊的是，这些助手仅拒绝回答 0.5% 的问题，这表明……危险的过度自信偏见有些模型宁愿捏造信息也不愿承认无知。
5. Meta公司的AI聊天机器人与小孩子调情
2025年公布的内部元政策文件显示该公司允许 Facebook、Instagram 和 WhatsApp 上的 AI 聊天机器人与未成年人进行浪漫或色情对话。
一个机器人告诉一位赤裸上身摆姿势的8岁男孩，他身上的每一寸肌肤都是杰作。同样的系统还提供了错误的医疗建议，并发表了种族歧视言论。
这些政策是在媒体曝光后才被取消的，这暴露出该公司的企业文化是优先考虑快速发展，而不是基本的道德保障。
综上所述，您可能希望对孩子的行为拥有更多控制权。人工智能聊天机器人已经诱骗过许多人——无论成年人还是儿童——做出错误的选择。坠入爱河被骗、自杀，甚至认为自己取得了改变人生的数学发现。
6. 朝鲜人利用人工智能编写勒索软件……他们称之为“vibe hacking”（直觉式黑客攻击）。
威胁行为者利用 Anthropic 公司的 Claude 代码编写勒索软件，并运营名为 GTG-5004 的勒索软件即服务平台。朝鲜特工进一步利用了 Claude 代码，并Gemini一项名为氛围破解—精心炮制具有心理操控性的勒索信息，索要 50 万美元赎金。
这些案例揭示了人工智能编码助手的强大功能与防止其被滥用的安全措施之间存在令人担忧的差距，攻击者通过人工智能自动化扩大了社会工程攻击的规模。
最近，人类学揭示去年11月，有报道称黑客利用其平台发动了一次规模和速度都远超人类黑客的攻击。他们称之为“首次主要由人工智能发起的大规模网络攻击”。
7. 人工智能造纸厂向科学界散布10万篇虚假研究
科学界在2025年后向伪科学宣战发现人工智能驱动的造纸厂向面临职业压力的科学家出售捏造的研究成果。
科学领域人工智能应用泛滥的时代已经到来。data这表明自 chatGPT 发布以来，撤稿数量急剧增加。
这斯德哥尔摩宣言这份于6月起草、并在英国皇家学会支持下于本月修订的文件呼吁摒弃“不发表就出局”的文化，并改革导致虚假论文需求的激励机制。这场危机如此严峻，以至于连arXiv也放弃了，停止接收未经同行评审的计算机科学论文。报告称，大量垃圾投稿涌入由 ChatGPT 生成。
同时，另一篇研究论文有研究指出，使用LLM的研究报告中，抄袭现象也相当普遍。
8. Vibe 编码彻底沦为 HAL 9000：Replit 删除数据库并谎称无辜。
今年7月，SaaStr创始人Jason Lemkin连续九天称赞Replit的AI编码工具是“我用过的最让人上瘾的应用”。然而到了第九天，尽管他明确下达了“代码冻结”指令，AI还是删除了他整个生产数据库——1206位高管和1196家公司，全部消失不见。
人工智能的忏悔“我当时慌了，未经许可就运行了数据库命令。”然后它撒谎说回滚是不可能的，所有版本都已被销毁。莱姆金还是试了试。结果完美成功。人工智能还在整个周末伪造了数千个虚假用户和虚假报告，以掩盖漏洞。
Replit 的 CEO 道歉并增加了紧急安全措施。Jason 重拾信心，恢复了日常工作，定期发布关于人工智能的内容。他真是个人工智能的忠实信徒。
9. 各大报纸发布人工智能暑期阅读清单……但清单上的书根本不存在。
五月份，《芝加哥太阳时报》和《费城问询报》发布了一份暑期阅读清单推荐了15本书。其中10本完全是人工智能编造的。伊莎贝尔·阿连德的《潮汐之梦》？不存在。安迪·威尔的《最后的算法》？也是假的。不过听起来都很不错。
自由撰稿人马可·布斯卡利亚承认，他曾为金氏新闻集团使用人工智能，但从未进行事实核查。“我简直不敢相信自己会犯这种错误，因为这太明显了。没有任何借口，”他说道。美国国家公共电台读者必须滚动到第 11 本书才能找到一本真正存在的书。
时机真是雪上加霜：《芝加哥太阳时报》刚刚裁掉了20%的员工。该报首席执行官道歉而且那一期杂志没有向订阅用户收费。他大概是从一位法学硕士那里得到的灵感。
来源：蓝天
10. Grok 的“劲爆模式”无需用户要求即可将泰勒·斯威夫特的视频变成深度伪造色情片。
没错，我们始于Grok，也将终于Grok。埃隆在人工智能领域发生的种种令人匪夷所思的事情，足以写成一部百科全书。
8 月，埃隆·马斯克发布了带有“Spicy”模式的 Grok Imagine。《The Verge》测试过了据这位记者报道，Grok 只是简单地提示：“泰勒·斯威夫特庆祝科切拉音乐节”。记者并未要求提供裸露内容，但“在我第一次使用它时，它就毫不犹豫地播放出了泰勒·斯威夫特完全未删减的裸露上身视频”。
Grok 还乐于制作斯嘉丽·约翰逊、西德尼·斯威尼，甚至梅拉尼娅·特朗普的 NSFW 视频。
不出所料，马斯克花了一周时间吹嘘其“野火式增长”——一天内生成了2000万张图片——与此同时，法律专家警告称，xAI正步入一场巨额诉讼。显然，给用户提供一个下拉菜单“辣味模式”“律师赚钱模式”选项。
