生命3.0:普通人如何理解未来

生命3.0/普通人如何理解未来¶

一次直播演讲的前后

background¶

2023, AGI 元年, 受邀请创立了 AIGCxZhuhai, 可一直没有什么对应活动, 终于受邀在 中国AIGC产业联盟火花私享课第21期 进行了一次相对完整的图书介绍:

goal¶

私人目标

• 捋通好书内容
• 间夹个人偏见
• 倡议关键定义

summary¶

记要当时说的主要内容

但行¶

• 从大学毕业说起
• 20多年来, 大妈各种技术学习, 以及社区经历
• 基本作到..好奇什么, 就学什么

更加详细的时间线可以参考: 我是如何成为大妈的 | Zoom.Quiet Personal Static Wiki

好事¶

第4声

• 原本是想作 3D 动画去学计算机的,结果发觉依赖非常昂贵的硬件
• 于是自学 Flash+PHP 回到 IT 行业
• 进而在过程改进中发现自己的倾向:
  • 用技术改善技术人生活品质
• 早年的 Sci-Fi 写作, 也变成了科技写作和翻译, 文科的底儿, 变成了社区运营的基本功
• 总之这次分享的核心精神只是:
  • 有好东西一定给小朋友们分享
  • 幼儿园时, 注入的分享精神

莫问¶

快速口述 life 3.0 核心内容

Future of Life Institute 生命未来研究所创始人所著: Max Tegmark

• 第1章: 故事开始了:
  • 一个 AGI(Prometheus) 如何统治人类的?
  • 一个合理又可行的剧本
  • 输出概念断言:
    • 生命1.0（生物阶段）：靠进化获得硬件和软件
    • 生命2.0（文化阶段）：靠进化获得硬件，但大部分软件是由自己设计的
    • 生命3.0（科技阶段）：自己设计硬件和软件
• 第2章: 智能何来?
  • 偏见又或是公理: 智能是物质的
  • 一个简单的 与非门 就可以构建出生成 AGI 的所有芯片
  • 而学习只是持续改变自身组织结构的物质系统...
• 第3章: 大突破
  • DeepMind 为触发, 在一系列领域中 AI 展现出可以替代人类的各种能力
  • 未来是否意识着人类全体失业?
  • 那么, 现在想投入的将来职位, 就得检验,这份工作是否:
    • 需要和人交互?
    • 涉及创造性, 必须由你提出解决方案?
    • 需要你在不可预料的环境中工作?
    • ...如果以上都不是, 那么大概念被 AGI 替代
  • 当然, 这种讨论, 就很像 1900 两匹马面对刚刚诞生的汽车进行应激式设想...
• 第4章: 智能爆炸
  • 又回到推理故事, 通过简单的社会工程, 就可以教唆内部人员帮助, 完成越狱...
  • AI 征服世界的必要步骤只是:
    • 1: 构建 AGI
    • 2: AGI 构建 超级智能 SI/SuperIntelligence
    • 3: 使用/任由 SI 统治世界
• 第5章: AI世代
  • 假设真的按部就班构建出了 SI ,那么和人类的关系大扺不超过以下几类
    • 自由主义乌托邦: 有产权,所有智能和平共处
    • 善意的独裁者: AI 老大哥
    • 平等主义乌托邦: 无产权,所有智能和平共处
    • 看门人: 禁止另外一个 SI
    • 守护神: 隐藏起来的 SI
    • 被奴役的神: 由人完全控制 SI
    • 征服者: 人类是病变
    • 后裔: 允许人类优雅的退出历史
    • 动物园管理员: 人类被看护着
    • 1984: 严格禁止 AI,"新卢德分子"/neouddites
    • 逆转: 退回 阿米什人 社会,《基地》
    • 自我毁灭: WWIII
  • 是的, 多数情况中, 人类可以说, 已经不存在了...所以, 我们要努力哪
• 第6章: 10亿年后
  • 如果人类, 幸运的在 AI 协力下可以发展 10亿年, 那么文明的边界是如何的?
  • 前苏,宇宙学家卡尔达肖夫基: 宇宙文明级别:
    • 1级: 行星文明, 当前 0.7
    • 2级: 恒星文明, 戴森球,1960年<-1937年《造星者》
    • 3级: 星系文明
  • 后续拓展:
    • 4级: 宇宙文明, 本宇宙 80%+能源
    • 5级: 多重宇宙文明
    • 6级: 神级文明, 构造宇宙
    • ...无法想象
  • 当然, 一切的基础是能源, 而能源, 已知最高效的手段, 就是泯灭物质, 100% 转化为能量
  • 所以,早在 1977《高边疆：太空中的人类殖民地》 就提出:
    • 通过殖民宇宙来获得资源
    • 问题在:
      • 我们能走多远?
      • 我们能走多快?
      • 我们能活多久?

这个图, 非常清晰的指出了:"为什么现在我们还没找到外星人?" 的原因...

• 第7章: 目标
  • AI 发展三大根本难题
    • 让 AI 学习我们的目标
    • 让 AI 接受我们的目标
    • 让 AI 保持我们的目标
  • 即, 如何只构建出对人类 友好 的AI?
  • code 2.0: 协议, 新法律, 是成本最小, 最可能成功的办法
  • Aximov 机器人三定律
    • 定律1：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管
    • 定律2：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外
    • 定律3：机器人在不违反第一、第二定律的情况下，要尽可能保护自己
  • 倡议的未来生命定律:
    • 第一定律：一个有意识的实体有思考、学习、交流、拥有财产、不被伤害或不被毁灭的自由
    • 第二定律：在不违反第一定律的情况下，一个有意识的实体有权做任何事
    • ...就非常 "美国独立宣言"
• 第8章: 意识
  • 为简便理解, 书中约定 意识＝主观体验（subjective experience）
  • 即: 如果你感觉“这就是现在的我”, 证明拥有意识
  • 相比 AGI 高速迭代, 对应人类社会 太多关键问题没有充分讨论
  • 所以, FLI 成立, 第一时间就收到 Musk 的大笔赞助
  • 目标:
    • 引导变革性技术造福生命并远离极端大规模风险
  • 工作领域涉及:
    • 政策
    • 资助
    • 教育
    • 活动
    • ...

前程¶

问题在 FLI 中华人根本没有...人类 1/6 人口的群体竟然没有对应意见渠道?

值得开始独立思考:

• 对未来,你的看法?
• 对AI,你的看法?
• 身为一个人类的意义是什么?
• ...

毕竟 伟大成果 只能来自伟大的人

• 如何变得伟大?
• 如何让人们轻松地做正确的事情?

AIGCxChina ~ 中国AIGC产业联盟

• GC: 生成内容
• G:
  • Generative 生成式
  • 值得升级为:
    • Growing 生长式
• 而C 也值得升级为:
  • Civilization 文明
• 即: AIGCxChina 缩写不变
  • 含义: 中国AI共生文明联盟

plan¶

触发, Sci-Fi 通讲系列

进一步 QA 阶段才发现, "生命3.0" 中讨论的各种未来学话题, 虽然上世纪就在各种 Sci-Fi/ 科学幻想小说中进行过大量的阐述, 但是, 对于中国人, 科学幻想小说, 从 三体 才开始;

值得, 以私人阅读经历中, 分享 有趣靠谱 的书单和经典, 来回顾 AI以及宇宙的想象;

可能的脉络:

• 现代科学幻想起点: 凡尔佩, 人定胜天的故事
• 黄金三巨头: 美国/罗伯特·海因莱因
• 黄金三巨头: 美国/艾萨克·阿西莫夫
• 黄金三巨头: 英国/阿瑟·克拉克
• 雷-布拉德伯: 霜与火
• 菲利普-K-迪克: 或然历史
• 弗诺·文奇,"银河界区三部曲"
• 特德·蒋, 短篇小说大圣
• ...
• “赌王若昂”三部曲来自芬兰的世界设定之王
• ...
• 间客 中国网络文学中的政治观
• 异常生物见闻录 中国网络文学中的宇宙观

准备以系列直播为形式, 慢慢和大家分享, 私人科学幻想小说阅读体验和其中对未来学的各种潜在思考...

refer.¶

幻灯:

https://slides.101.camp/AIGCxZh-life3.html

回放:

"生命3.0"普通人如何理解未来 #AIGCxZhuhai #cyber #futurism

图书:

生命3.0

作者: [美] 迈克斯·泰格马克
出版社: 浙江教育出版社
副标题: 人工智能时代，人类的进化与重生
原作名: Life 3.0: being human in the age of artificial intelligence
出版年: 2018-6
页数: 468
ISBN: 9787553672786

异步讨论邮箱:

askDAMA@googlegroups.com

SEE:

- Our mission - Future of Life Institute¶

logging¶

• 231217 ZQ blog
• 231214 ZQ Youtube 字幕以及章节
• 231213 ZQ 腾讯会议直播
• 231209 ZQ 接受邀请