对齐问题
The Alignment Problem
Brian Christian · 初版 2020 年
- 12次提及
- 7人推荐
- 11位 HN 评论者
简介
一本令人瞠目结舌的力作，深入探讨了构建 AI 系统时出现的种种问题，以及旨在纠正这些偏差的变革行动。当今由数据训练的“机器学习”系统极其高效，以至于我们已邀请它们代我们观察、倾听并做出决策。然而警钟已经敲响：系统在筛选简历时，多年后我们才发现它们带有内在的性别偏见；算法在决定保释与假释时，似乎对黑人和白人被告区别对待；我们再也无法认定自己的房贷申请甚至医疗检验报告会有人类肉眼审核。而自动……
Hacker News 读者推荐
从从事 ML / 大语言模型（LLM）的产品经理视角来看……Brian Christian 写的《对齐问题》（The Alignment Problem）。我们该如何告诉计算机去执行所有我们想让它做的事、别做所有我们不想让它做的事，以及搞定所有我们自己都没意识到想让或不想让它做的事？如何才能……
thushan 在 HN 的推荐
非常酷的项目。我目前正在读 Brian Christian 讲 AI 的《对齐问题》（The Alignment Problem，写得非常好，读起来很流畅），还在（以极慢的速度）啃 Garry Kasparov 的《我的伟大前驱》（My Great Predecessors）第一卷。这两个主题结合起来太棒了！我尤其感兴趣的是……
sixstringtheory 在 HN 的推荐
Brian Christian 写的《对齐问题：机器学习与人类价值观》（The Alignment Problem: Machine Learning and Human Values）[1]很好地梳理了这段历史，并探讨了不同 ML 方法中的一些陷阱。读起来非常有趣……
davideg 在 HN 的推荐
找书
数据整理自 Hacker News 公开评论，数据来源 hackerbooks.org 与 Open Library。