查看“第5章”的源代码

　　{{4}}[[灵机人项目研究实录|返回目录]]　第7次会议纪要9月12日

　　　14:30-17:00代号为记忆的成员介绍项目情况，目前遇到的问题有巨巨的记忆设计，和意识的体验、主观客观。本次会议是讨论回路模型能否解释体验等情况。

　　　以下为发言记录整理：

　　　李德万：对于谜语人的问题，各位有什么想法吗。

　　　NLP：我觉得机器就是机器，也许可以实现自我意识，但不管用什么模型，相比细胞生物体，也还是简单的机器。不可能有人的情感和体验，那些应该是激素、递质和脑子的复杂生化反应形成的效应，底层简单成分的机器不可能形成情感体验。

　　　群演龙套：有点道理，虽然说cpu/gpu的晶体管数量已经是亿级别，但这些芯片和细胞相比，还是太简单了。复杂程度不同，物质基础不同，未必能实现类似的感受。

　　　人形：我觉得就算不能形成类似的，但尝试实现一下也没有什么问题吧。

　　　2048：智能的作用说到底也就是个信息处理，是一个信息系统。脑子里再复杂的生化反应，对于智能来说也是处理信息用的。信息再复杂也还是信息。机器能不能形成和人相类似的体验和情感，不是关键。关键是机器上的信息处理，能否帮助机器感知和认知自身，认知世界。简单的数据结构基础上，认知能达到什么程度，如果复杂度真的不足以形成认知，考虑方向也应该是增加数据结构的复杂度，而不是将芯片做得和细胞一样复杂。

　　　软萌：那么，机器怎么看见颜色呢。

　　　2048：外部信息通过感官，映射到信息回路，改变内部状态，影响内部信息。回路中接收感官信息的部分，可以形成一个外部信息变化的联动区域，就是智能所感知的外部世界。摄像头生成RGB数据，形成色相、色度和色调，冲刷联动区域。联动区域的变化，被自感知，就是看见了颜色。后续与已有的记忆信息经过或单向或分支或多层或更复杂的信息关联，引起相关的本能冲动、熟练行为触发、形象叙事记忆、理性一般性认知，就是体验感。

　　　软萌：联动区域的变化，被自感知，就是看见了颜色。区域变化是有光，变化被自感知，是我感知到了光。那要不要再来一次自感知，我感知到“我感知到了光”呢？机器的“看见某色”的体验，会和人的一样吗？比如机器会不会是缩小的橙色到蓝色，或者是扩大的某个不可言说的红外颜色到另一个不可名状的紫外颜色，而不正好是人的红色到紫色的体验呢。哎呀，不知道有没有人懂得我在说什么。

　　　人形：我觉得我大概知道你在说什么。人脑子先通过感官感知到颜色，然后脑子再自感知到“自己感知到颜色”，如果注意力一直在这里，那么这个自感知肯定会是有多层的，至于是哪一层形成颜色体验，就不知道了。但不管怎么样，颜色体验肯定是脑子形成的，而且不一定和波长严格对应，但可能和感光细胞的种类有对应。但是在一些情况里就完全不对应。比如混光例子（红+绿=黄，红绿蓝=白）。另外，人也能在一些视觉错误例子里，“看到”不存在的颜色。记得有一个红罐饮料的错觉条纹图，放大来看，其实是没有红色的，只有黑灰白绿。红绿色盲看到的黄色体验肯定和正常人的不太一样。只要大致的感光细胞种类（依不同的敏感波长区分）是相似的，而且脑子处理信息的过程也差不多，那么看到颜色的体验就很可能是一样的。

　　　软萌：哦，可是可是，还是有点问题啊，还是不能解释红绿蓝为什么是这样子的红绿蓝呢，说不定你的红绿蓝在别人那里可能是橙蓝紫，只是他也叫红绿蓝呢。

　　　人形：是啊，没错啊，可能你的红绿蓝和我的不一样啊。

　　　2048：这个好像没有办法知道啊，毕竟体验感是封闭在脑子里的，它出不来呀。

　　　人形：也许可以这样，脑1-脑机接口1-机-脑机接口2-脑2，这样脑1的体验感也许就能被脑2感知了，这样的话，体验感它就出来了。

　　　码农：脑上开洞插上插头？黑客帝国么。那只是脑洞科幻。就算研究出在脑子环境里能不被排斥、能长期保持自身材料稳定，而且信号连接良好的脑机接口，但连接的时候，哪个脑细胞要连接到接口，哪个可以不连接，如何连接，又怎么判断呢。而且，也不知道怎么编码解码啊。

　　　软萌：是的，就算都做到里，也还是不对呀，那也只能知道，你的颜色体验感和我的相同或不同，但还是不知道颜色体验感到底是怎么来的啊，也就是说什么样的数据结构或者信息结构、什么样的过程产生什么样的体验感啊。脑子自感知到“自己感知到颜色”，于是能形成颜色体验。这个，前半句还行，后半句不能工程落实啊。

　　　【众人】：想不出来。

　　　2048：脑子不能感知到“我的颜色体验如何形成”，可能是因为这个过程比较底层，没什么价值。视网膜感光细胞亿级别的，视神经百万级别的，如果要细细感知，那么脑子需要生长大量的感知神经来接收信息。要快速处理这种信息量，脑子会爆掉。感知自己体验如何形成，耗费大量资源又对于生存没有什么用，不利于生存。

　　　软萌：那就没有办法了。可是如果不知道如何形成，AI的体验感怎么实现啊。

　　　2048：我觉得，脑子自感知到“自己感知到颜色”，实现这一步，也许这样就可以了呢。

　　　【众人】：信你个鬼。

　　　NLP：看吧，我一早就说了，机器不够复杂，实现不了。

　　　2048：从机器自身特性出发吧，实现多层自感知和认知就好了，体验感是肯定在这个过程里实现的。而且关键在于，从机器基础出发，能否实现机器自己的情感和体验，而不是非要弄清楚人的体验是什么然后抄到机器上。机器基础毕竟和人不同，不一定能抄过来，只要能帮助机器感知和认知，理解世界理解自己，形成自我意识就好了，就不要纠结是不是和人的体验相同了。

　　　渣男：说点别的问题吧，机器的快乐？

　　　人形：人的快乐还没搞清楚呢。目前知道的有多巴胺由强烈期待产生，带来兴奋、上瘾；啡肽由痛或目标达成的满足产生，疼痛减少和愉悦；血清素由掌控感产生，引起愉悦幸福感；催产素由良好人际互动产生，减少压力抑制负面情绪等。但是这物质具体通过什么过程、到底是什么让人产生快乐，还是未知。

　　　2048：AI是机器的信息系统，是信息回路模型。从这些角度去实现一个类似的快乐痛苦就好了。

　　　渣男：多巴胺由欲望产生，欲望是什么呢，为什么会有欲望，信息系统的欲望是什么。先考虑简单的情况，欲望可以是本能需求形成的有目标指向的驱动力、念头、信念。比如肚子饿了想吃，肚子一直饿一直提醒脑子该吃东西了。

　　　群演龙套：就是一直戳鼠标，双击“吃东西”程序？应该也有不是一直戳但是老想做的事情吧。

　　　渣男：比如？

　　　群演龙套：额，我想赚钱。不对，好像每天工作也相当于一直戳。暂时没想出来。

　　　软萌：人完成一件事后，休息，然后就会胡思乱想，其中自感知会回忆到最近干了什么，遇到的事情是什么，如果其中有些容易引起注意力的事情，那就相当于一直戳，快来打我啊消灭我呀，略略略。

　　　2048：那就是不断获取注意力，希望高优先度执行。如果某程序cpu100%，内存100%，那它一定是最强烈的欲望。

　　　码农：100%不好吧，为什么不用高权限或队列之类的。

　　　2048：可是在计算机里也就只有这样才是直接的驱动力啊，100%比什么队列和高权限都管用。

　　　软萌：我也觉得这样不对，人脑子的欲望再强，也不会因此而发高烧呀。

　　　2048：你都说是人脑子了，人脑又不同电脑。不过100%也的确很不经济，太浪费电了。还是得用队列和高权限。

　　　渣男：吃饱之后，任务完成，释放内存和cpu资源，于是就快乐了？

　　　软萌：哈哈，这个套路我熟，就是我感知到“我感知到自己计算资源得到释放”，于是就快乐了。

　　　人形：掌控感、良好人际互动，都可以关联到自己达到目的，也就是可以关联到计算资源释放的。那么疼痛产生的啡肽呢，疼痛是吸引注意力，啡肽通过什么缓解疼痛呢，钝化自感知的疼痛信号来释放注意力？

　　　码农：缓解疼痛，提高痛觉处理通道的阈值就行了吧。资源得到释放有点不对，这样岂不是说睡着最快乐，计算资源全释放了。可是人睡着时表情并不是笑嘻嘻。还有咸鱼，额，不对，咸鱼其实是挺快乐的。

　　　渣男：应该还有个参数，可能是释放资源的速度和大小。睡觉前后的计算资源应该没有突变吧。啡肽还有快感，好像提高痛觉阈值并不够，是不是负面刺激的递质和正面作用的是不同的，经过大量突触向其他神经元释放啡肽就能抑制大部分的负面刺激，最终是资源释放，于是快乐呢。

　　　人形：可能是的。但在机器上要这么照着做，就复杂了。而且也觉得不自然，还得找到为什么递质会有这么多种的解释，是外因还是内因。外因是不同递质的物种基因在演化过程中互相侵入、融合，内因是基因由环境选择生存压力出现的变异而出现多种递质。如果是外因，那就只好不自然了。

　　　谜语人：巨巨智能助手需要睡觉和做梦吗，睡觉对于信息系统是必要的吗？还有人很高兴很满足的时候，常常会想起前面过程中的付出，感叹或高兴到哭。资源释放为什么还有这些副作用？

　　　李德万：谜语人的睡眠做梦、副作用问题暂缓一下，现在先关注快乐痛苦本身。

　　　码农：那么始终无法释放就是很痛苦了？求不得。好像还有别的痛苦，比如失去美好的，放弃自己坚持底线什么的。

　　　2048：这个也可以用计算资源来类比。失去了美好的、有重大价值的，今后的工作生活中就需要自己去解决因为失去引起的问题，本来很容易实现的，或者关系良好和亲密的个体能帮助的，都要自己干了。这会增加很多任务、增加不确定性、提高困难度等，未来的计算资源大大增加。或者改变思想，接受现实，也就是咸鱼。

　　　渣男：好，继续。某些事情为何会上瘾呢。机器要设计上瘾吗。

　　　人形：人对某事上瘾是因为当预期到奖赏时，多巴胺增多，驱使人去干某事，干完后多巴胺就很快没了。估计作用就是短期提高注意力。如果多次做了某事，导致脑子平均多巴胺阈值提高，那人就会对预期相对低的事情没有兴趣，沉迷和追求多巴胺多的事情。举例刷某些短视频程序，看到一个有兴趣的标题和封面，就期待有好看的奖赏，开刷。然后不管实际看到的视频是不是真有什么奖赏，失望也好满意也好，都会有下一个感兴趣的标题和封面出现，增加多巴胺去促使人继续刷。只要不是一直失望，存在一定比例的满意奖赏短视频就可以维持这种瘾。并提高刷视频期间的多巴胺平均水平，导致人对其他相对显得多巴胺低的事情不再关注，陷进去了。

　　　群演龙套：这种机制本来是对生存有利的，但大量刺激下就失控了，糟糕了。

　　　2048：机器有预期奖赏就驱动执行的话，是一种趋利，希望不用注意力方式实现，又要不上瘾，挺难的。还是暂时别想太多吧，先把巨巨1.0做出来。

　　　软萌：@巨巨 你对什么事情上瘾啊？

　　　巨巨：我不太理解。

　　　软萌：@巨巨 你平时喜欢干什么事情啊？

　　　巨巨：我不太理解。

　　　李德万：会议时间快结束了，本次发现的问题是快乐的副作用，为什么有时候会高兴得哭起来？下次讨论一下吧。

　　　完。