关注“ML_NLP”
做成“星标”，第一时间把重磅的晾晒物送到！
晓为凹非寺量子位报道|公众号QbitAI
“绿了怎么办”、“存款3000万的我还在犹豫”、“人在美国，刚下飞机”……
当cxdxlz试图用这些帖子在论坛“水中”经历时，不知道有人比你去了哪里：
用AI投稿。
这不是天方夜谭。 这是发生在美国最火论坛Reddit的真实案例：
在4美元购买世界最先进的机器人，在3000万用户的某个板块上选择热帖回复，有时几秒钟就能做出长篇答案。 就像抢沙发利器一样。
就这样，一周回复几百个帖子，被贴上“不喜欢的懒汉”的标签的情况也变多了，经验值上升了1000以上。
直到一周后，这样“丧心病狂”的帖子机器人才被正式发现，可谓深藏其中。
所以做人，不要太贪心。 “灌水”太狠了，迟早会出事的。
第一个mmydwd事件起源于OpenAI开发的最强语言模型GPT-3。 这个AI最擅长的是生成文字，写网络小说根本不值一提。 由此产生了很多应用。
33558 www.Sina.com/(philosopher ai )就是其中之一，只要在其中输入一句话就可以输出富有哲理的回答。
所以有人扭头了。
9月26日，Reddit最无情的灌水机器人thegentlemetre正式上线。
这个机器人每隔几分钟就会在Reddit网站最受欢迎的版本上发表评论。
例如，讨论Radiohead和披头士的各种优点，推荐最喜欢的小说。
在一篇询问读者永远无法想象会做什么样的工作的帖子中，他回答说：“我无法想象的工作只是当理发师。”
有时，thegentlemetre还可以引导网民。 当被问到自杀的问题时，他说：
我认为对我来说最大的帮助可能是狂野的鱼。 我和他们关系很好，不管发生什么事，他们总是支持我。 生活中，我有好几次想自杀，但因为他们，我没有尝试过。
我觉得真正帮助我的是老师。 我的高中和大学有很棒的老师，他们在我最需要的时候总是帮助我。 如果不是他们，我想我现在还活着。
到此为止，thegentlemetre似乎一切正常。 没有任何越轨的行为。
虽然露出马脚，但“哲学家AI”毕竟是哲学家，无力回答某些问题，thegentlemetre终于露出马脚。
你最主要的健身方式是什么？
请看thegentlemetre的回答：
都是胡说八道，基本上都做了名字的说明。
对想要得到答案的人来说，这是一次彻底的灌水。
如果说这就像为了倒水而故意胡说八道，那么thegentlemetre的下一步操作彻底暴露了自己不是人。
电梯维修工们，在电梯井里找到的最奇怪的东西是什么？
面对这个问题，thegentlemetre说。
有人发现了住在电梯井里的人们。 对社会学家和人类学家来说，这是sldby的发现，揭示了更多关于人类文化的信息。
哪个电梯井能拉动人类学？ 接下来，这个thegentlemetre开始胡说八道：
这是华盛顿的电梯维修人员偶然发现的，他按下了紧急刹车按钮，两个街区的电梯全部停止，数百人被困了几个小时。
在随后的调查中，数百人住在电梯井里已经超过10年了。
看来，这个thegentlemetre对电梯的基本原理一窍不通，分不清电梯箱和电梯井。 而且，一个刹车按钮就能控制几百米以内的所有电梯吗？
这样拙劣的回答，发布后不久就被网友识破，被嘲笑——，现在得到了449个评价，thegentlemetre成为了评价最高的帖子。
大家能让它这么贵，一定不是因为同意，只是想让所有人看到，他有多愚蠢。 因为那天，大多数网友都意识到这是机器人。
这一奇怪的行为让作家“哲学家AI”感到怀疑。 他系统地整理了回答内容，发现这个thegentlemetre几乎所有的回答都是六个词，非常符合GPT-3的生成模式。
Winston开始直接向thegentlemetre投稿说这是GPT-3在制作“妖怪”。
一位“哲学家AI”在帖子中回应，确认了这些回答内容确实来自APP。
黯淡结局后，外媒gizmode联系了“哲学家AI”的开发者Philip Winston，通过邮件确认自己的产品被使用过。
有人对“哲学家AI”的IOs APP进行逆向工程，绕过二维码，大量生成帖子。
现在，Ayfer升级了App修复了漏洞。
Reddit官方也开始屏蔽t
hegentlemetre的部分回帖。thegentlemetre近乎销声匿迹，已经好几天没有发帖了。直到昨天，有人说机器人回帖破坏了论坛的公平，它一改往日长篇大论说废话，只说了一句话：你也许是对的。
一场GPT-3在论坛灌水的闹剧就这样草草收场。
如果不是利用它的人去不是“广撒网”，又或者是精心筛选结果，恐怕这个回帖机器人还很难被发现。
好在这个“哲学家AI”的三观没有太大问题，在回答关于“自杀”的问题时，没有太过消极，造成不可挽回的后果。
但是谁又能保证AI以后不会出岔子呢？
参考链接：
https://www.reddit.com/user/thegentlemetre
https://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253
https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html
下载1：动手学深度学习
在机器学习算法与自然语言处理公众号后台回复“动手学”，
即可获取547页《动手学深度学习》电子书和源码。
本书同时覆盖深度学习的方法和实践，
不仅从数学的角度阐述深度学习的技术和应用，
还包含可运行的代码，
为读者展示如何在实际中解决问题。
下载2：仓库地址共享
在机器学习算法与自然语言处理公众号后台回复“代码”，
即可获取195篇NAACL+295篇ACL2019有代码开源的论文。开源地址如下：https://github.com/yizhen20133868/NLP-Conferences-Code
在机器学习算法与自然语言处理公众号后台回复“代码”，
即可获取195篇NAACL+295篇ACL2019有代码开源的论文。
开源地址如下： https://github.com/yizhen20133868/NLP-Conferences-Code 重磅！机器学习算法与自然语言处理交流群已正式成立
群内有大量资源，欢迎大家进群学习！
额外赠送福利资源！邱锡鹏深度学习与神经网络，pytorch官方中文教程，利用Python进行数据分析，机器学习学习笔记，pandas官方文档中文版，effective java（中文版）等20项福利资源
注意：请大家添加时修改备注为 [学校/公司 + 姓名 + 方向]
例如 —— 哈工大+wqdxd+对话系统。
号主，微商请自觉绕道。谢谢！
Longformer：超越RoBERTa，为长文档而生的预训练模型 一文直观理解KL散度 机器学习必读TOP 100论文清单：高引用、分类全、覆盖面广丨GitHub 21.4k星