技术对于世界的革命性意义早为人类共知，而对技术革命的人文反思却相对关注寥寥。作为国内较早从事人工智能历史研究的学者之一，科学史博士、上海交通大学科学史与科学文化研究院客座研究员陈自富长于从哲学和伦理角度反思新技术，并试图将这种反思置入更为日常化、脉络化的场景中。
发布会现场
在文化纵横杂志社、东方出版社和南都观察共同举办的沙龙暨文化纵横书系之《赛先生的梦魇：新技术革命二十讲》新书发布会上，陈自富就以曾受到广泛关注的人工智能软件“阿尔法狗（AlphaGo）”和人类基因组编辑事件为例，详解他对新技术的种种人文反思。
反思技术变革的必要性
陈自富首先强调，不论是专业人士还是普通民众，对于技术革命或重大科技变革等议题进行讨论和反思都有其必要性。普通民众常被认为在知识上无法与专业人士进行平等讨论，即便是专业人士中，不同专业乃至同一专业中的不同领域的人也存在认知上的分歧，但是这些都不影响大家共同享受信息文明带来的成果，共同承担其中的责任，共同思考其中的意义。
这种反思既包括对技术内容本身，也包括对其在社会、人文意义上更深层次的思考。前者拓展技术，后者则能够帮助形成和强化人类在扩展自身边界时的“问题意识”，并从人与自然如何相处的问题意识延伸到技术重新定义人类反身性的问题意识。这样的问题意识，在以寻求知识增长为目的的自然科学领域和谋求人类平等、幸福的社会科学领域都是至关重要的。
技术革命大大拓展了人与自然的关系，创造了很多自然本不存在的东西，人类的边界不断延伸，人与技术也不断融合，人类必须重新思考自身的定义。而对技术进行人文反思的过程一方面能够帮助我们提问，另一方面也让问题意识浮现，提供多维视角，告别封闭性讨论，不断扩大问题领域的外延，促使全社会不断接近最大程度的共识，让科技真正服务于人类福祉。
至于技术革命，陈自富解释说，当前被很多人称为“第四次工业革命”乃至“智能革命”时期，且不细究说法，但回顾历史可以发现，科学和技术实际上是并列关系，科学并不能代表技术。
回顾技术革命
工业革命之前，人类从最初学会使用火的蒙昧时代发展到实现畜牧业和农业分离、农业和手工业分离和商人出现的野蛮时代，而进入早期文明时代后，私有制开始出现，产生以城市为标志的定居文明，还出现了庞大的祭司阶层，但是人口增长与战争却始终交替出现。直到第一次工业革命时期，蒸汽革命将生产的“动力”彻底革新，畜力和水力被取代，冶金和机械制造成为重心，资本家开始出现。这是一次以英国为核心的单源性工业革命，并由此产生了工匠文化和商品输出。
第二次工业革命是电力革命，电力的使用极大地推进了包括汽车业在内的重化工业发展，工业革命的范围开始延伸，城市化脚步开始加快。也正是在此过程中，科学和技术的关系开始变化。作为工匠的瓦特身处于技术和科学并行的时代，但到了二次工业革命时期，化学、冶金等技术行业则仰赖于科学。阿尔文·托夫勒（Alvin Toffler）称之为“第三次浪潮”、至今余韵未绝的第三次工业革命，以信息革命为主要特征，还包括核技术和航空航天技术以及农业革命的发展，全球化程度越来越高，贫富差距也在拉大。
而当前，信息革命正在向所谓的“智能革命”推进，尽管第四次工业革命尚无公认的说法，但人工智能、生物科技、航空航天和清洁能源等技术面向已经越发突出，这些过去认为完全不同的领域之间也在加速融合。以火星探测为例，由于距离带来的时间延迟，导致无法进行实时操纵，必须赋予火星上的探测器一定的自主判断能力，也就是与人工智能发生紧密的结合，这一技术也会慢慢影响到地球的其他技术行业。
因此当前这种跨领域的技术革新与前三次工业革命有了巨大的差异，具有跨领域特性的技术有极强的“正反馈”效果，技术的发展速度特别快，适用的人口范围也特别广。其重大意义在于，人类的认知边界将被全面拓展，向外进入太空，向内则进入人类基因编辑层面。
但也正是在此状况下，目前的技术革命并没有得到科学的全面支援与支撑，我们尚缺乏各方面的准备，原理上的茫然将带来更大的未知，其影响也无法预知。正如蒸汽革命时期伦敦大力发展煤炭工业后带来的严重污染，就是典型的解决实际问题，却因不理解原理而无法预测其发展轨迹，进而陷入困境。陈自富指出，只有具备科学理论基础的技术在发展时才更有规律性，其后果和边界才更容易澄清，便于人们做出理性选择，对其技术路线的预测也会相对更加准确。蒸汽机的制造与利用和核技术的发展已完全不可同日而语，后者必须建立在相对论这样的理论基础之上。
难以解释的问题
所以大多数时候，科学不等于技术，人也不总是理性。目前认知科学对于智能的理解和生物科学对于人类基因组修饰的所知都十分有限，但技术上尝试的步伐似乎在不断加速。一般而言，人类会对技术的发展作科学的算计，以求实现技术决策中的利益价值比较，也就是所谓的“两害相权取其轻，两利相权取其重”，然而在没有相应科学基础的情况下，盲目决策出现的概率大大提高了。
以“阿尔法狗”为例，其在实践上战胜了人类最强棋手，在基于规则的博弈领域达到前所未有的高度，这样亮眼的表现却并不能说明人工智能已经作为人造物开始模仿人类智能运作，因为人类自己对于大脑运作的原理也尚处于十分抽象的解释阶段，包括阿尔法狗在内的智能技术进展仍属于缺乏足够理论支持和知识基础的工程实践。
陈自富认为，这种“难以解释的生物智能或人工智能”就是我们当前面临的现状，其中存在很多的问题。“知识就是力量”，如果将知识作为智能的核心来源，那么由于认识论是哲学的研究范畴，人工智能就与哲学有了纠缠；如果不考虑知识的核心地位，正如当前人工智能深度学习所依赖的路径本质上与知识没有太大关系，仍旧缺乏理论基础。但需要指出的是，人工智能尽管没有掌握所谓的知识，却在棋类博弈游戏、定理证明、图像识别等一些脑力活动领域有了重大进展，比之人类呈现出压倒性优势，与过去蒸汽、电力的工具性利用相比，人类要如何面对这样的进步？
人类与人工智能
曾经，机器取代人力导致工人失业，但总体而言工具性利用始终还被框限在“改造自然”的范围内，但随着人工智能的技术发展，人类被取代的焦虑将会日益深重。要解决这一问题，需要明确的是，应该如何定义人工智能？
人类似乎总在为自己寻找一个稳定的哲学定义，人会利用工具、制造工具，人是符号动物、理性动物、知识动物……这些似乎可以证明人类唯一性的特质正在随着技术的发展和认识的深入不断退缩，人工智能的突出表现更使得人类开始怀疑是否连“创新”都并非人类的本质。因此，问题恐怕也要继续回溯，是否从一开始，人类执着于思考自己的本质就已经错了？
陈自富指出，之所以会出现人工智能挑战人类的问题，正是由于人类从一开始就试图通过本质主义来定义自身，进而定义人工智能，以准确地区分人类和非人类。但这种对本质的追求可能会导致一种永远没有答案的递归，还有可能出现对人类肉身的超越，即这样完美的人类定义是否真的存在？因此他认为，人类只有放弃这种本质主义的幻想，将智能、意识这种心理学词汇设想为生物体与环境交互的过程，使之与人类的定义脱钩，才能避免滑入这一困境中。
那么，如何理解人类与人工智能的概念和关系呢？
关于“人类”，实际上不存在静态、固定的概念，劳动、符号、理性、文化等都只刻划了人类的某一方面，他进一步指出，所谓的“人类”指的是具有独特基因组的人类与其环境组合的产物，而环境的变化导致了在不同的历史阶段“人类”都有不同的内涵和外延。当代生物学和哲学对于人类的物种概念，甚至人类是否是一个物种，迄今未能达成一致，因此在这一 意义上讨论人工智能对人类的取代或竞争，其实是一个不恰当的问题。
与此同时，人工智能也不像人类一样存在有性生殖变异的基础，存在着宏观上生命与非生命的区别；并且人工智能的复杂程度比之人脑的功能模块，也不在一个数量级上，在相当漫长的时间内，人工智能都无法成为独立的主体，也就无法作为生命体承担责任，其缺陷或成就都将指向其人类设计者。
总的来说，区别于人工智能，有性生殖、社会性、语言能力、伦理责任等是人类作为高等生命的主要特征，而如科幻小说或电影中为人工智能或机器人赋予生命特征的例子，恐怕只能视之为一种隐喻或类比。
数学家和控制论先驱诺伯特·维纳（Norbert Wiener）早年在其名作《人有人的用处》中提到一个如今科幻作品中常见的设定，即把人通过信息渠道传输到另一处，陈自富将之称为“把人存储起来”，前卡内基梅隆大学移动机器人实验室主任汉斯·莫拉维克（Hans Moravec）曾试图实现这一构想，也就是人类的机器化（mind as machine），个体的人可以以信息的方式储存和传输；而家喻户晓的图灵测试（The Turing test）试图判断机器能否模拟人，反映的是计算机拟人化（machine as mind），二者截然不同却都是把信息作为人的本质，这与现今流行的基因观点产生了联系，人都有独一无二的基因，以一段基因序列作为一个人唯一的标志，这似乎可以作为人类与人工智能在信息上的联系。
如果说信息是人的本质，那么再加上个体和环境交互的历史信息，人类社会可以基于信息重建，这个猜想或者说隐喻就构成了信息本体论的一种形式。这与拉·梅特里（La Mettrie）在《人是机器》中提出的隐喻一样，都在一定程度上反映了一种万物均可形式化的机械世界观，而其背后都是实证主义的哲学观。
除了哲学上的考虑，陈自富还谈及如今的技术带来的伦理挑战，例如以借助神经网络技术为照片人物脱衣的DeepNude和可以进行人体图像合成以伪造图片的Deepfake这样的技术作恶，利用算法强化社会偏见或不公的算法歧视等。不仅如此，没有过程性因果解释的算法是否能够替代人类决策，对人类的生殖系基因修饰是否构成对人类的生物学改造，花费巨额代价为罕见病开发基因疗法是否值得等问题都困扰着人类。
尽管人类可以用强人类中心主义或人类沙文主义来说服自己，用更透明的技术治理结构来规训技术，通过驱除哲学上的本质主义以谨慎支持生殖系基因修饰……但总体而言，在人类已经无法进化出更多新物种，也不可能再通过自然选择以获得更好基因型的情况下，人类不能在惊愕和茫然中坐视技术革命的自主发展。
陈自富最后强调，人类必须对未来的技术发展作出规划和选择，更好地进行思考和提问以应对技术的快速变革。
