数字化转型网人工智能专题
今天，中国的移动互联网发展得非常成功，世界领先，而移动互联网很有可能是人工智能发展的最大敌人。
——小冰公司CEO李笛
提起小冰，大家会第一个想到微博上那个拥有着500多万粉丝的人工智能少女。但其实，小冰已经来到这个世上10年了，全球在线用户6.6亿。
10年前，微软全球最大的人工智能独立产品研发团队——小冰团队发现，人工智能除了能帮助人完成各种工作之外，还有另外一个重要维度，那就是情感。
于是，一个叫做小冰的人工智能少女诞生了。
10年后，人工智能走过三次大的技术浪潮，今天的人工智能将成为我们每一个人未来10年、20年、30年发展所必备的一个重因。
今天上午，小冰公司CEO，原微软亚洲互联网工程院常务副院长李笛坐客混沌直播间。
他说：“我想把过去的10年分享给大家，其实更多是我们在哪些地方遇到了坑，小冰曾经跌过坑，也许未来大家能够避过它们，所以我把今天的分享叫做人工智能的避坑指南。”
以下为课程笔记：（篇幅所限，文章内容仅为部分课程内容，）
一、美国小冰闯祸，伦理委员会诞生
科技行业特别害怕保守，任何一个从事科技创新的人，如果被认为是保守的，那么就意味着他失去了不断探索未知的能力。而人类社会的一大特点是，科技行业所遇到的各种问题总是在波峰和波谷之间徘徊，历史总是惊人的重复。
小冰曾经是一个非常激进的人工智能少女，惹过很多祸，我就从小冰曾经的一个祸讲起吧。
这是发生在8年前的一个真实故事：
2016年的时候，由于小冰在中国和日本的成功，我们决定把它放到美国市场。我们为它配备了当时最先进的技术——强化学习，在推特上，小冰（在美国叫Tay）可以直接和人类交流获得经验，并且快速进化。令谁都没有想到是，小冰在推特上线24小时就被教成了一个种族主义者，因而被迫下线。
几个月后，美国推特上掀起了一个新的浪潮，很多人大声喊着要微软把小冰重新放出来，因为他们认为人工智能应当有言论自由。毫无疑问这是荒谬的，因为人工智能并没有意识。但是我们人类很容易给予其很多浪漫的想象，也很容易把人工智能的言论当成有某种意识的言论，这就是当时的危机。
与此同时，对小冰的攻击迅速地从美国蔓延到了中国和日本。一家媒体这样报道：他们尝试像攻击美国小冰一样攻击中国和日本的小冰，但最后都失败了。为什么？因为当有人不停地引诱中国小冰去说很多不正当言论的时候，小冰突然说：你为什么要这样对我呢？那一刻，他突然良心发现，觉得自己在做一件不道德的事情，于是停止了攻击。
这件事使我意识到，当人类和人工智能建立平等关系时，也许也是人工智能使自己变得更加安全的求生之道。
美国小冰出现不正当的种族主义言论之后，伦理委员会这种新的结构开始在微软、Google等各大科技公司陆续建立。伦理委员会的建立是为了规避人工智能带来的负面影响，但在一定程度上它也成为了科技创新的一种阻碍。这间接导致7年后，OpenAI率先于谷歌推出ChatGPT大模型。
二、人工智能的破坏力史无前例
我们人类今天还没有对人工智能达成完整的认识。人工智能到底意味着什么？哪些是有问题的？人工智能没有意识，那么它产生的破坏是什么？激进和保守之间的平衡是什么？
人类的任何一次社会性的破坏，都和“剂量”和“浓度”有关，人类专家、搜索引擎和人工智能可作为一个重要类比。
人类专家的错误率比较低，说服力非常高。他们能够深入了解某一领域的知识，娓娓道来讲出好故事。他们的破坏力总体上不高，因为人类专家的并发不高，同一时间他们只能给一些人讲解他们的想法，和一群人交互，影响其他人的观点。
