人工智能给人类和社会带来挑战，其中最明显的问题是失业。有人预测，机器将会首先接管电话营销、自动化运输服务、下水道管理、税务筹划者、照片处理、数据录入工作、图书馆员和图书馆技术员等工作。例如，数以百万计的卡车司机的工作中的大部分，都将会因自动驾驶实现自动化。尽管这似乎令人担忧，但实际上从18世纪工业革命开始，人类劳动自动化就是一个大趋势——当然，人工智能带来的自动化的广度和深度，将是前所未有的。另一个问题是隐私。例如，人工智能可以从我们的社交媒体反馈中准确预测我们的习性、喜好和隐私。还有人对人工智能自主武器深感不安——自主武器有权决定是否夺走人的生命（虽然也有人认为自主武器可以被设计得比人类更可靠）。
更严重的问题是算法偏见——虽然人工智能决策软件原则上可以被设计成没有偏见的，但糟糕的算法设计会导致做出糟糕的决策。如果一个机器学习程序是由具有偏见的人或具有偏见的数据训练的，那么这个程序也会有偏见。最后，从长远看令人担忧的的问题是，如果我们到达“奇点”——通用人工智能系统变得比人类聪明的假设时间点——会发生什么。也许人工智能将超出人类的控制，甚至可能对人类生存构成威胁——当然，关于奇点是否会发生，科学界至今意见不一。
无论如何，人工智能的长远未来有很大的不确定性。应该针对这种可能的负面影响，研究防御措施，防范机器欺骗、威胁和人工智能黑客的攻击，教人工智能辨别是非。
这也是为什么之前章杉在讲人工智能的时候提到了浅度思考。
浅度思考就在于赋予机器一些思辨性，使得机器能够最起码的辨明是非。
尽管听起来有些理想主义，但章杉可不想有着一日因为自己研究的AI机器不小心惹出的麻烦而引火上身。
喜欢读书成神豪请大家收藏：(m.2yq.org)读书成神豪爱言情更新速度全网最快。