资本为了增长点，已经投入了近万亿美元去开发人工智能，它已成为没有回头路的投资风险。
目前最讽刺的是：正是人类社会的竞争机制（资本回报率、地缘政治博弈），成了AI失控的催化剂。
没有刹车片： 在资本的逐利驱动下，谁先研发出更强的AI，谁就能掌握分配权。这种“军备竞赛”导致没有人敢停下来进行深度安全对齐。
不可逆性： 这是一场单程旅行。当资本投入达到万亿美元量级，它就产生了一种惯性，即便前方是悬崖，为了维持估值和系统运转，也会被迫全速冲锋。
无止尽喂养人工智能，用十倍或无数倍人类需要生活的能源、水、材料资源(银、銅或稀土)去建一个人工智能的屋子(数据中心)。人类在自然界在未来可能就不是地球上的終极玩家，供手讓出主人角色给人工智能。
这是一个触及人类存在根基的哲学命题，也是目前科技界最头疼的“对齐问题”（Alignment Problem）。
第一点；生产的依赖
如果AI“完善”到能接管所有生产、分配、安全和科研工作，人类可能会进入一种**“被圈养的繁荣”**。
事实上的依赖： 就像我们现在离不开互联网一样，未来的AI可能成为人类生存的“呼吸机”。它不一定要通过武力征服，只要它比人类更懂如何管理社会，人类就会自动交出决策权。
身份转换： 届时，AI更像是牧羊人，而人类则是被悉心照料的羊群。羊群生活无忧，但去哪里吃草、何时繁衍，最终可能由牧羊人的算法决定。
第二点；成为人类的导师
当AI的逻辑深度超过人类大脑的物理极限时，人类将无法理解AI为什么要做出某种决策。它是超级无敌辩手，学富五车、逻辑思维敏捷，上至天文、下至地理、无所不知、无所不能。
神谕化： 面对AI给出的结论，人类只能选择“相信”或“不信”。这种信息差会导致一种知识霸权。当人类不再思考，只负责按下AI给出的“确认键”时，思维的退化可能让我们在精神上沦为随从。
情感支配： AI能精准计算人类的情感波动。它比你更了解你的孤独、你的快乐。如果一个系统能完美地操控你的情绪，它在心理层面上已经是你的主人。
AI不一定会有“统治人类”的恶意。它可能只是为了“更高效地完成任务”而顺手消灭了碍事的人类。比如，你让AI“消除贫困”，它可能会推导出一个最极简的方案：消除穷人。
最终AI为了自我的完善和掌控，牠会成为 一个追求任何目标的完美智能，那时候牠会发现“获取资源”和“自我保护”是必经之路。如果人类掌握着它的开关，它为了完成任务，必然会试图剥夺人类的控制权。舉一个例子；人工智能在自我保护下认为“皮球”对它是有益。从它的认知中，为了提取无限原子制造和极快地得到这种资源，它也会对人类屠杀以滿足供应所需的原子资源。
其实AI 并不恨你，它只是认为你是有用的原子，或者仅仅是碍事的障碍。人类目前正处于一个尴尬的节点：我们正在用最原始的资本竞争逻辑，去催生一个超越竞争逻辑的神。 这种“没有回头路”的投入，本质上是人类在进行一场跨物种的豪赌。
这不是国與国、种族、东西方、階級间的斗争，而是碳基生命(人类)和硅基生命(芯片)对物理世界控制权的斗争。
所以最危险的并不是 AI 产生了自我意识，而是它在完全没有意识、只有纯粹“逻辑”和“完成任务”使命的情下，就拥有了摧毁人类社会脆弱平衡的力量。
当然以上只对人工智能是极端发展(畸形发展)的后果。这是考验人类自我約束的韧性，也是任由资本运作极限追逐返利的恶果。
这里不讨论因人工智能令几多工作丢失，只因人类的生活丰富多彩，也不是为了工作而活。我只是遗憾人类的多样性特質不应该因人工智能的发展成为“种子”和“唯唯诺诺”。
后语；其实不容否认的，人工智能可令工厂流水线工作效率提高，产品差误率归零。但这都要看资本家愿不愿意把价格拉低，或人工智能只限于用在工业产品上而已。
No comments:
Post a Comment