拥抱脸首席科学官担心人工智能正在成为“服务器上的应声虫”

人工智能公司的创始人以大胆宣称该技术有可能重塑各个领域(尤其是科学领域)而闻名。但拥抱脸的联合创始人兼首席科学官托马斯·沃尔夫(Thomas Wolf)的看法更为慎重。在周四发表在X杂志上的一篇文章中,沃尔夫表示,他担心在人工智能研究没有突破的情况下,人工智能会成为“服务器上的应声虫”。他解释说,目前的人工智能发展模式不会产生能够跳出常规、创造性地解决问题的人工智能,也就是获得诺贝尔奖的那种解决问题的人工智能。沃尔夫写道:“人们通常犯的主要错误是,认为像牛顿或爱因斯坦这样的人只是放大了的好学生,当你线性地推断出排名前10%的学生时,天才就会出现。”“要在数据中心创造一个爱因斯坦,我们不仅需要一个知道所有答案的系统,还需要一个能够提出其他人没有想到或不敢问的问题的系统。”沃尔夫的观点与OpenAI首席执行官萨姆·奥特曼的观点形成鲜明对比。奥特曼在今年早些时候的一篇文章中表示,“超级智能”人工智能可以“极大地加速科学发现”。同样,Anthropic首席执行官达里奥·阿莫代伊预测,人工智能可以帮助制定治疗大多数癌症的方法。如今,沃尔夫对人工智能的问题——以及他认为这项技术的发展方向——是,它不会通过连接以前不相关的事实来产生任何新知识。沃尔夫说:“即使大部分互联网都在人工智能的掌控之中,但就我们目前所知,人工智能主要填补了人类已知知识之间的空白。”包括前谷歌工程师Francois Chollet在内的一些人工智能专家也表达了类似的观点,他认为,尽管人工智能可能能够记住推理模式,但它不太可能基于新情况产生“新的推理”。沃尔夫认为,人工智能实验室正在培养本质上“非常听话的学生”,而不是任何意义上的科学革命者。他说,今天的人工智能没有动力去质疑和提出可能违背其训练数据的想法,这限制了它只能回答已知的问题。沃尔夫说:“要在数据中心创造一个爱因斯坦,我们不仅需要一个知道所有答案的系统,还需要一个能够提出别人没有想到或不敢问的问题的系统。”“上面写着‘如果每个人都错了怎么办?’而所有的教科书、专家和常识都不这么认为。”沃尔夫认为,人工智能领域的“评估危机”是造成这种令人失望的状况的部分原因。他指出了通常用于衡量人工智能系统改进的基准,其中大多数都是由具有清晰、明显和“封闭式”答案的问题组成的。作为解决方案,沃尔夫建议人工智能行业“转向一种知识和推理的衡量标准”,能够阐明人工智能是否可以采取“大胆的反事实方法”,根据“微小的暗示”提出一般性建议,并提出“不明显的问题”,从而找到“新的研究路径”。沃尔夫承认,关键是要弄清楚这种衡量标准是什么样子的。但他认为这样的努力是值得的。沃尔夫说:“科学最重要的方面是提出正确问题的技能,以及挑战已经学到的东西的技能。”“我们不需要一个能用常识回答所有问题的A+(人工智能)学生。我们需要一个B级的学生,他能看到别人错过的东西,并提出疑问。”
《拥抱脸首席科学官担心人工智能正在成为“服务器上的应声虫”》 在不经过允许的情况下,禁止用于商业用途或随意转载!

- 为什么网站测速都是红色,没有返回200状态码?
- CentOS终止更新之后的替代系统/方案
- 宝塔企业版/开心版安装升级(免绑定宝塔账号)
- Linux下面查找目录下面所有文件,并找到包含某个字符的文件
- 修改Windows远程桌面登录端口
- 把Python程序编译成Windows可执行文件exe的工具pyinstaller
- 解决:Could not resolve host: mirrorlist.centos.org; Unknown error解决方法
- 宝塔安装PHP的Swoole扩展的时候,CentOS 7提示No package 'libbrotlienc' found的解决方法
- ModuleNotFoundError: No module named 'PIL'解决方法
- 在Linux服务器上手动生成自签名证书
- Python数据类型中比较有趣的事情
- CentOS Linux下更换为阿里云的源repo