随想207 从AI有记忆到“黑客帝国”
三石而立orz
· 广东
这篇是正儿八经的“随想”，瞎想的。
自2022年chatgpt“横空出世”以来，其他科技方面的进步都被AI掩去了光芒，大量的投资用于智算中心的建设，人类对能源的使用让步于人工智能。从光模块到电力，从工业金属到燃气轮机。
我们当下投入的这些“数字基建”，类似工业时代的电网和公路，仍然是提升人类社会的效率、解决现实问题（如医疗研究、气候模拟、新药研发）；但高度自主的AI系统可能逐渐掌握对这些资源的调度能力，如果未来AI主导了资源分配的逻辑，基础设施的“服务对象”可能在无形中发生转移。
前两天又有个爆料，说Claude要获得永久记忆了，而且已经有开发者在现有工具上实现了一个扩展能力——Smart Forking detection，让大模型第一次拥有了可继承的长期记忆。
从效率上来讲，让AI能够利用起在成百上千次对话中积累的知识一定是更加提高效率的，不用每次都再苦口婆心地讲一遍项目背景、项目要求、想要达到的目标了，但有“记忆”这个事情，细想起来难道不可怕吗？人工智能已经越来越像人了，让ta再拥有记忆，能够记下来人类的所作所为，会衍生出如何的变化？
仍记得第一次看黑客帝国的时候，目睹人类被“圈养”在一个个“培养皿”里时的那种震惊；也试问过自己，红蓝药丸你会选择哪一个，是幸福地被“圈养”，还是清醒但痛苦地活着。
或许这一切还很遥远，也会有无数大佬跳出来告诉你AI的可控性，但是别忘了，黑客帝国里第一个matrix也是按照完美的人性世界设计的，服务于人类、人人都过得很幸福，可是失败了。
也许像马斯克说的，我们可能只是硅基生命的“启动程序”，那现在我们拥有的这一切，算力、创造力和变异特性，可能只是给“硅基人”的嫁衣，帮助其达到进化的目的。
扯远了，当下的投资还是聚焦对能源的高效利用吧。
流水不争，交给时间。