晓是从凹非寺发现的
量子报道|公众号QbitAI“绿了怎么办”、“存款3000万的我还在犹豫”、“人在美国，刚下飞机”……
当酷酷饼干试图用这些帖子在论坛“水”上经历时，不知道有人比你高到哪里去了：
用AI投稿。
这不是天方夜谭。 这是发生在美国最火论坛Reddit的真实案例：
在4美元购买世界最先进的机器人，在3000万用户的某个板块上选择热帖回复，有时几秒钟就能做出长篇答案。 就像抢沙发利器一样。
这样，一周回复数百个帖子，频繁被打上“thdyj”，经验值上升了1000以上。
直到一周后，这样“丧心病狂”的帖子机器人才被正式发现，可谓深藏其中。
所以做人，不要太贪心。 “灌水”太狠了，迟早会出事的。
第一个cmdls事件起源于OpenAI开发的最强语言模型GPT-3。 这个AI最擅长的是生成文字，写网络小说根本不值一提。 由此产生了很多应用。
33558 www.Sina.com/(philosopher ai )就是其中之一，只要在其中输入一句话就可以输出富有哲理的回答。
所以有人扭头了。
9月26日，Reddit最无情的灌水机器人thegentlemetre正式上线。
这个机器人每隔几分钟就会在Reddit网站最受欢迎的版本上发表评论。
例如，讨论Radiohead和披头士的各种优点，推荐最喜欢的小说。
在一篇询问读者永远无法想象会做什么样的工作的帖子中，他回答说：“我无法想象的工作只是当理发师。”
有时，thegentlemetre还可以引导网民。 当被问到自杀的问题时，他说：
我认为对我来说最大的帮助可能是jzdqt。 我和他们关系很好，不管发生什么事，他们总是支持我。 生活中，我有好几次想自杀，但因为他们，我没有尝试过。
我觉得真正帮助我的是老师。 我的高中和大学有很棒的老师，他们在我最需要的时候总是帮助我。 如果不是他们，我想我现在还活着。
到此为止，thegentlemetre似乎一切正常。 没有任何越轨的行为。
虽然露出马脚，但“哲学家AI”毕竟是哲学家，无力回答某些问题，thegentlemetre终于露出马脚。
你最主要的健身方式是什么？
请看thegentlemetre的回答：
都是胡说八道，基本上都做了名字的说明。
对想要得到答案的人来说，这是一次彻底的灌水。
如果说这就像为了倒水而故意胡说八道，那么thegentlemetre的下一步操作彻底暴露了自己不是人。
电梯维修工们，在电梯井里找到的最奇怪的东西是什么？
面对这个问题，thegentlemetre说。
有人发现了住在电梯井里的人们。 对社会学家和人类学家来说，这是nxdyx的发现，揭示了更多关于人类文化的信息。
哪个电梯井能拉动人类学？ 接下来，这个thegentlemetre开始胡说八道：
这是华盛顿的电梯维修人员偶然发现的，他按下了紧急刹车按钮，两个街区的电梯全部停止，数百人被困了几个小时。
在随后的调查中，数百人住在电梯井里已经超过10年了。
看来，这个thegentlemetre对电梯的基本原理一窍不通，分不清电梯箱和电梯井。 而且，一个刹车按钮就能控制几百米以内的所有电梯吗？
这样拙劣的回答，发布后不久就被网友识破，被嘲笑——，现在得到了449个评价，thegentlemetre成为了评价最高的帖子。
大家能让它这么贵，一定不是因为同意，只是想让所有人看到，他有多愚蠢。 因为那天，大多数网友都意识到这是机器人。
这一奇怪的行为让作家“哲学家AI”感到怀疑。 他系统地整理了回答内容，发现这个thegentlemetre几乎所有的回答都是六个词，非常符合GPT-3的生成模式。
Winston开始直接向thegentlemetre投稿说这是GPT-3在制作“妖怪”。
一位“哲学家AI”在帖子中回应，确认了这些回答内容确实来自APP。
黯淡结局后，外媒gizmode联系了“哲学家AI”的开发者Philip Winston，通过邮件确认自己的产品被使用过。
有人对“哲学家AI”的IOs APP进行逆向工程，绕过二维码，大量生成帖子。
现在，Ayfer升级了App修复了漏洞。
Reddit开始官方屏蔽theg
entlemetre的部分回帖。thegentlemetre近乎销声匿迹，已经好几天没有发帖了。直到昨天，有人说机器人回帖破坏了论坛的公平，它一改往日长篇大论说废话，只说了一句话：你也许是对的。
一场GPT-3在论坛灌水的闹剧就这样草草收场。
如果不是利用它的人去不是“广撒网”，又或者是精心筛选结果，恐怕这个回帖机器人还很难被发现。
好在这个“哲学家AI”的三观没有太大问题，在回答关于“自杀”的问题时，没有太过消极，造成不可挽回的后果。
但是谁又能保证AI以后不会出岔子呢？
参考链接：https://www.reddit.com/user/thegentlemetrehttps://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html
— 完 —
本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容，未经账号授权，禁止随意转载。
榜单征集！7大奖项锁定AI TOP企业
「2020中国人工智能年度评选」正式启幕！将从公司、人物、产品、社区四大维度共7个奖项寻找优秀的AI企业，欢迎大家扫码报名参与。 榜单将于12月揭晓，也期待与百万从业者们，共同见证这些优秀企业的荣誉！量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见~