必须阅读帖子大卫·贝瑞比的文章人工智能已经出奇地非人了。
人工智能最近一直在以无情的速度攻克难题。在过去的几年里，一种被称为神经网络的特别有效的人工智能已经在发现新药、寻找最佳工作候选人，甚至驾驶汽车等任务上与人类持平甚至超过人类。神经网络的结构复制了人类大脑的结构，现在通常可以分辨出文字的好坏，并且通常可以非常精确地告诉你照片中的物体是什么。在谷歌搜索、亚马逊推荐、Facebook新闻推送和垃圾邮件过滤等无处不在的工作中，以及在军事安全、金融、科学研究等关键任务中，以及那些比人类驾驶得更好的汽车中，这种网络的使用越来越多。
不知道机器为什么会做一些奇怪的事情，让我们无法确保它不会再次发生。
神经网络有时会犯错，这是人们可以理解的。(是的，那些桌子看起来很真实;对我来说，也很难看出它们是一种反映。)但是一些棘手的问题使得神经网络以不可理解的方式做出反应。神经网络执行算法——一组完成任务的指令。当然，算法是由人类编写的。然而，神经网络有时会给出非常奇怪的答案:不是对的，但在人们可以理解的程度上也不是错的。相反，答案听起来像是外星人可能会想出的东西。
问题不仅仅在于机器与人的思维方式不同。而是人们不知道为什么。
这些奇怪的结果是罕见的。但它们不仅仅是随机的故障。研究人员最近设计了可靠的方法，使神经网络产生这种可怕的非人的判断。这表明人类不应该认为我们的机器像我们一样思考。神经网络有时会认为不同的．我们也不知道是怎么回事。
读了全文．
由Rudy de Waele发布@mtrends/shift2020.com