生命3.0/普通人如何理解未来

一次直播演讲的前后

background

2023, AGI 元年, 受邀请创立了 AIGCxZhuhai, 可一直没有什么对应活动, 终于受邀在 中国AIGC产业联盟火花私享课第21期 进行了一次相对完整的图书介绍:

goal

私人目标

  • 捋通好书内容
  • 间夹个人偏见
  • 倡议关键定义

summary

记要当时说的主要内容

但行

  • 从大学毕业说起
  • 20多年来, 大妈各种技术学习, 以及社区经历
  • 基本作到..好奇什么, 就学什么

更加详细的时间线可以参考: 我是如何成为大妈的 | Zoom.Quiet Personal Static Wiki

好事

第4声

  • 原本是想作 3D 动画去学计算机的,结果发觉依赖非常昂贵的硬件
  • 于是自学 Flash+PHP 回到 IT 行业
  • 进而在过程改进中发现自己的倾向:
    • 技术改善技术人生活品质
  • 早年的 Sci-Fi 写作, 也变成了科技写作和翻译, 文科的底儿, 变成了社区运营的基本功
  • 总之这次分享的核心精神只是:
    • 有好东西一定给小朋友们分享
    • 幼儿园时, 注入的分享精神

莫问

快速口述 life 3.0 核心内容

Future of Life Institute 生命未来研究所创始人所著: Max Tegmark

  • 第1章: 故事开始了:
    • 一个 AGI(Prometheus) 如何统治人类的?
    • 一个合理又可行的剧本
    • 输出概念断言:
      • 生命1.0(生物阶段):靠进化获得硬件和软件
      • 生命2.0(文化阶段):靠进化获得硬件,但大部分软件是由自己设计的
      • 生命3.0(科技阶段):自己设计硬件和软件
  • 第2章: 智能何来?
    • 偏见又或是公理: 智能是物质的
    • 一个简单的 与非门 就可以构建出生成 AGI 的所有芯片
    • 而学习只是持续改变自身组织结构的物质系统...
  • 第3章: 大突破
    • DeepMind 为触发, 在一系列领域中 AI 展现出可以替代人类的各种能力
    • 未来是否意识着人类全体失业?
    • 那么, 现在想投入的将来职位, 就得检验,这份工作是否:
      • 需要和人交互?
      • 涉及创造性, 必须由你提出解决方案?
      • 需要你在不可预料的环境中工作?
      • ...如果以上都不是, 那么大概念被 AGI 替代
    • 当然, 这种讨论, 就很像 1900 两匹马面对刚刚诞生的汽车进行应激式设想...
  • 第4章: 智能爆炸
    • 又回到推理故事, 通过简单的社会工程, 就可以教唆内部人员帮助, 完成越狱...
    • AI 征服世界的必要步骤只是:
      • 1: 构建 AGI
      • 2: AGI 构建 超级智能 SI/SuperIntelligence
      • 3: 使用/任由 SI 统治世界
  • 第5章: AI世代
    • 假设真的按部就班构建出了 SI ,那么和人类的关系大扺不超过以下几类
      • 自由主义乌托邦: 有产权,所有智能和平共处
      • 善意的独裁者: AI 老大哥
      • 平等主义乌托邦: 无产权,所有智能和平共处
      • 看门人: 禁止另外一个 SI
      • 守护神: 隐藏起来的 SI
      • 被奴役的神: 由人完全控制 SI
      • 征服者: 人类是病变
      • 后裔: 允许人类优雅的退出历史
      • 动物园管理员: 人类被看护着
      • 1984: 严格禁止 AI,"新卢德分子"/neouddites
      • 逆转: 退回 阿米什人 社会,《基地》
      • 自我毁灭: WWIII
    • 是的, 多数情况中, 人类可以说, 已经不存在了...所以, 我们要努力哪
  • 第6章: 10亿年后
    • 如果人类, 幸运的在 AI 协力下可以发展 10亿年, 那么文明的边界是如何的?
    • 前苏,宇宙学家卡尔达肖夫基: 宇宙文明级别:
      • 1级: 行星文明, 当前 0.7
      • 2级: 恒星文明, 戴森球,1960年<-1937年《造星者》
      • 3级: 星系文明
    • 后续拓展:
      • 4级: 宇宙文明, 本宇宙 80%+能源
      • 5级: 多重宇宙文明
      • 6级: 神级文明, 构造宇宙
      • ...无法想象
    • 当然, 一切的基础是能源, 而能源, 已知最高效的手段, 就是泯灭物质, 100% 转化为能量
    • 所以,早在 1977《高边疆:太空中的人类殖民地》 就提出:
      • 通过殖民宇宙来获得资源
      • 问题在:
        • 我们能走多远?
        • 我们能走多快?
        • 我们能活多久?

宇宙间的关系

这个图, 非常清晰的指出了:"为什么现在我们还没找到外星人?" 的原因...

  • 第7章: 目标
    • AI 发展三大根本难题
      • 让 AI 学习我们的目标
      • 让 AI 接受我们的目标
      • 让 AI 保持我们的目标
    • 即, 如何只构建出对人类 友好 的AI?
    • code 2.0: 协议, 新法律, 是成本最小, 最可能成功的办法
    • Aximov 机器人三定律
      • 定律1:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管
      • 定律2:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外
      • 定律3:机器人在不违反第一、第二定律的情况下,要尽可能保护自己
    • 倡议的未来生命定律:
      • 第一定律:一个有意识的实体有思考、学习、交流、拥有财产、不被伤害或不被毁灭的自由
      • 第二定律:在不违反第一定律的情况下,一个有意识的实体有权做任何事
      • ...就非常 "美国独立宣言"
  • 第8章: 意识
    • 为简便理解, 书中约定 意识=主观体验(subjective experience)
    • 即: 如果你感觉“这就是现在的我”, 证明拥有意识
    • 相比 AGI 高速迭代, 对应人类社会 太多关键问题没有充分讨论
    • 所以, FLI 成立, 第一时间就收到 Musk 的大笔赞助
    • 目标:
      • 引导变革性技术造福生命并远离极端大规模风险
    • 工作领域涉及:
      • 政策
      • 资助
      • 教育
      • 活动
      • ...

前程

问题在 FLI 中华人根本没有...人类 1/6 人口的群体竟然没有对应意见渠道?

值得开始独立思考:

  • 对未来,你的看法?
  • 对AI,你的看法?
  • 身为一个人类的意义是什么?
  • ...

毕竟 伟大成果 只能来自伟大的人

  • 如何变得伟大?
  • 如何让人们轻松地做正确的事情?

AIGCxChina ~ 中国AIGC产业联盟

  • GC: 生成内容
  • G:
    • Generative 生成式
    • 值得升级为:
      • Growing 生长式
  • C 也值得升级为:
    • Civilization 文明
  • 即: AIGCxChina 缩写不变
    • 含义: 中国AI共生文明联盟

plan

触发, Sci-Fi 通讲系列

进一步 QA 阶段才发现, "生命3.0" 中讨论的各种未来学话题, 虽然上世纪就在各种 Sci-Fi/ 科学幻想小说中进行过大量的阐述, 但是, 对于中国人, 科学幻想小说, 从 三体 才开始;

值得, 以私人阅读经历中, 分享 有趣靠谱 的书单和经典, 来回顾 AI以及宇宙的想象;

可能的脉络:

  • 现代科学幻想起点: 凡尔佩, 人定胜天的故事
  • 黄金三巨头: 美国/罗伯特·海因莱因
  • 黄金三巨头: 美国/艾萨克·阿西莫夫
  • 黄金三巨头: 英国/阿瑟·克拉克
  • 雷-布拉德伯: 霜与火
  • 菲利普-K-迪克: 或然历史
  • 弗诺·文奇,"银河界区三部曲"
  • 特德·蒋, 短篇小说大圣
  • ...
  • “赌王若昂”三部曲来自芬兰的世界设定之王
  • ...
  • 间客 中国网络文学中的政治观
  • 异常生物见闻录 中国网络文学中的宇宙观

准备以系列直播为形式, 慢慢和大家分享, 私人科学幻想小说阅读体验和其中对未来学的各种潜在思考...

refer.

幻灯:

https://slides.101.camp/AIGCxZh-life3.html

回放:

"生命3.0"普通人如何理解未来 #AIGCxZhuhai #cyber #futurism

图书:

生命3.0

作者: [美] 迈克斯·泰格马克
出版社: 浙江教育出版社
副标题: 人工智能时代,人类的进化与重生
原作名: Life 3.0: being human in the age of artificial intelligence
出版年: 2018-6
页数: 468
ISBN: 9787553672786

异步讨论邮箱:

askDAMA@googlegroups.com

SEE:

- Our mission - Future of Life Institute

logging

  • 231217 ZQ blog
  • 231214 ZQ Youtube 字幕以及章节
  • 231213 ZQ 腾讯会议直播
  • 231209 ZQ 接受邀请

Comments


大妈的多重宇宙 - YouTube

全新自媒体系列...科学幻想,读书,说故事...

任何问题

随时邮件提问可也:
askdama@googlegroups.com


Copyright 2001-2023 by Zoom.Quiet
Content licensed under the Creative Commons attribution-noncommercial-sharealike License.
Contact me via , mail ,github or gitlab . Tip me via || (ATOM)