Reki的轻博客, 日常生活流水帐和信息见闻&吐槽.
你将在本频道看到包括且不限于以下话题：
菜菜程序员屎山遨游见闻
猎人 · 特工 · 提督 · 雀士 · 猎魔人 · 开位御主 · 期间限定回归
二五仔毒奶观测者
刀客塔沉船记录
财经新闻胡乱精选
生草新闻摘抄 & 分享
频道主突发恶疾
你将在本频道看到包括且不限于以下话题：
菜菜程序员屎山遨游见闻
猎人 · 特工 · 提督 · 雀士 · 猎魔人 · 开位御主 · 期间限定回归
二五仔毒奶观测者
刀客塔沉船记录
财经新闻胡乱精选
生草新闻摘抄 & 分享
频道主突发恶疾
Y 孵化器支持的 AI 公司被批评其产品是在虐待工厂工人
2025-02-26 20:39 by 水刀子
Y 孵化器支持的 AI 公司 Optifye.ai 的产品是利用监控探头为工厂实时监视工人的工作情况，该公司刚刚发布了一则演示其工作方式的视频，结果引发了广泛批评，最终导致视频被撤下。在视频中，公司联合创始人 Kushal Mohta 扮演了一家服装厂的老板，向主管（由另一位联合创始人 Vivaan Baid 扮演）询问一位编号为 17 的工人的表现。Baid 随即通过监控探头与 17 号工人当面对质，这位工人回答他整天在工作。但监控仪表盘显示这名工人的工作效率过去半个月都很糟糕。主管对工人进行了批评。这段视频在社交媒体上引发了将工人非人化的批评，认为该公司的服务是“血汗工厂即服务”。在 Y 孵化器的论坛 Hacker News 上该演示视频也引发了争议和批评。
Techcrunch:Y Combinator deletes posts after a startup’s demo goes viral
Tell HN: Y Combinator backing AI company to abuse factory workers
#人工智能
2025-02-26 20:39 by 水刀子
Y 孵化器支持的 AI 公司 Optifye.ai 的产品是利用监控探头为工厂实时监视工人的工作情况，该公司刚刚发布了一则演示其工作方式的视频，结果引发了广泛批评，最终导致视频被撤下。在视频中，公司联合创始人 Kushal Mohta 扮演了一家服装厂的老板，向主管（由另一位联合创始人 Vivaan Baid 扮演）询问一位编号为 17 的工人的表现。Baid 随即通过监控探头与 17 号工人当面对质，这位工人回答他整天在工作。但监控仪表盘显示这名工人的工作效率过去半个月都很糟糕。主管对工人进行了批评。这段视频在社交媒体上引发了将工人非人化的批评，认为该公司的服务是“血汗工厂即服务”。在 Y 孵化器的论坛 Hacker News 上该演示视频也引发了争议和批评。
Techcrunch:Y Combinator deletes posts after a startup’s demo goes viral
Tell HN: Y Combinator backing AI company to abuse factory workers
#人工智能
新晋诺奖得主称赞其学生解雇了 Sam Altman
2024-10-10 02:18 by 生命之书
加拿大多伦多大学的 Geoffrey E. Hinton 教授因在 AI 神经网络上的基础性工作而获得了 2024 年度的诺贝尔物理学家，在 AI 上的工作也让他赢得了 AI 教父的美名。他在周二的演讲中特别称赞了一名学生——前 OpenAI 首席科学家 Ilya Sutskever——参与解雇了 CEO Sam Altman 的行动。Hinton 教授说，我特别幸运，有许多非常聪明的学生——比我更聪明——他们完成了真正的工作。他们之后都取得了杰出的成就。我尤其为其中一名学生解雇 Sam Altman 而自豪。Ilya Sutskever 所在的 OpenAI 董事会去年底做出了解雇这家炙手可热 AI 创业公司 CEO 的决定，但这次行动最终未取得成功，Sam Altman 恢复了 CEO 职位，包括 Sutskever 在内的主要参与者在一年之内都离开了 OpenAI。
https://slashdot.org/story/24/10/09/1949256/after-winning-nobel-prize-geoffrey-hinton-said-he-was-proud-ilya-sutskever-fired-sam-altman
#人工智能
2024-10-10 02:18 by 生命之书
加拿大多伦多大学的 Geoffrey E. Hinton 教授因在 AI 神经网络上的基础性工作而获得了 2024 年度的诺贝尔物理学家，在 AI 上的工作也让他赢得了 AI 教父的美名。他在周二的演讲中特别称赞了一名学生——前 OpenAI 首席科学家 Ilya Sutskever——参与解雇了 CEO Sam Altman 的行动。Hinton 教授说，我特别幸运，有许多非常聪明的学生——比我更聪明——他们完成了真正的工作。他们之后都取得了杰出的成就。我尤其为其中一名学生解雇 Sam Altman 而自豪。Ilya Sutskever 所在的 OpenAI 董事会去年底做出了解雇这家炙手可热 AI 创业公司 CEO 的决定，但这次行动最终未取得成功，Sam Altman 恢复了 CEO 职位，包括 Sutskever 在内的主要参与者在一年之内都离开了 OpenAI。
https://slashdot.org/story/24/10/09/1949256/after-winning-nobel-prize-geoffrey-hinton-said-he-was-proud-ilya-sutskever-fired-sam-altman
#人工智能
大模型的幻觉是不可避免地
2024-09-15 11:48 by 暗黑童话
随着大模型的日益普及，批判性地检查其固有的局限性也日益重要。幻觉是大模型最常见的问题之一，我们是否可能通过改进大模型去减少或阻止幻觉的产生？United We Care 的三名研究人员在预印本平台 arXiv 上发表研究报告，他们从数学上证明，幻觉是不可避免地，也是不可能消除的。幻觉源自大模型的数学和逻辑结构，不可能通过改进架构、增强数据集或事实核查机制消除。根据哥德尔的第一不完备定理，研究人员证明大模型的每一个阶段，从训练数据搜集到事实检索、意图分类和文本生成，每个阶段产生幻觉的几率都不是零。
https://arxiv.org/abs/2409.05746
#人工智能
2024-09-15 11:48 by 暗黑童话
随着大模型的日益普及，批判性地检查其固有的局限性也日益重要。幻觉是大模型最常见的问题之一，我们是否可能通过改进大模型去减少或阻止幻觉的产生？United We Care 的三名研究人员在预印本平台 arXiv 上发表研究报告，他们从数学上证明，幻觉是不可避免地，也是不可能消除的。幻觉源自大模型的数学和逻辑结构，不可能通过改进架构、增强数据集或事实核查机制消除。根据哥德尔的第一不完备定理，研究人员证明大模型的每一个阶段，从训练数据搜集到事实检索、意图分类和文本生成，每个阶段产生幻觉的几率都不是零。
https://arxiv.org/abs/2409.05746
#人工智能
AI 产品仍然依靠人类去填补性能差距
2024-04-14 23:07 by 沉船岛
最近的新闻清晰表明，如果 AI 在一项人类任务中表现出色，那么很有可能该任务实际上就是人类做的。今年初，乔治卡林（George Carlin）遗产执行机构起诉了声称使用 AI 制作了乔治卡林风格节目的播客，该播客之后披露节目剧本事实上是名叫 Chad 的人类完成的。双方之后达成了和解。一家为汽车餐厅提供 AI 语音界面的公司在没有人工帮助下只能完成三成工作。亚马逊新商店放弃了 Just Walk Out 自动结账系统，原因是该系统事实上需要人类进行验证。如果我们的记忆不是三秒钟的话，同样的事情几年前就发生过：2015 年 AI 聊天机器人就很热门。一家创业公司 x.ai 称其 AI 助手能阅读邮件安排会议，一家叫 GoButler 的公司可以帮助预订航班或订购薯条。这些所谓的 AI 助手都需要人工。人类躲在机器人后面，确保它不会犯错误或胡说八道。
https://slashdot.org/story/24/04/12/127208/many-ai-products-still-rely-on-humans-to-fill-the-performance-gaps
#人工智能
2024-04-14 23:07 by 沉船岛
最近的新闻清晰表明，如果 AI 在一项人类任务中表现出色，那么很有可能该任务实际上就是人类做的。今年初，乔治卡林（George Carlin）遗产执行机构起诉了声称使用 AI 制作了乔治卡林风格节目的播客，该播客之后披露节目剧本事实上是名叫 Chad 的人类完成的。双方之后达成了和解。一家为汽车餐厅提供 AI 语音界面的公司在没有人工帮助下只能完成三成工作。亚马逊新商店放弃了 Just Walk Out 自动结账系统，原因是该系统事实上需要人类进行验证。如果我们的记忆不是三秒钟的话，同样的事情几年前就发生过：2015 年 AI 聊天机器人就很热门。一家创业公司 x.ai 称其 AI 助手能阅读邮件安排会议，一家叫 GoButler 的公司可以帮助预订航班或订购薯条。这些所谓的 AI 助手都需要人工。人类躲在机器人后面，确保它不会犯错误或胡说八道。
https://slashdot.org/story/24/04/12/127208/many-ai-products-still-rely-on-humans-to-fill-the-performance-gaps
#人工智能
Google 警告员工不要使用 Bard 生成的代码
2023-06-20 13:51:00 by 燃烧的银河
Google 警告员工在使用 Bard 时不要泄露机密信息或用其生成代码。其它大公司也对员工发出了类似的警告。但 Google 的警告与其声称 Bard 有助于开发者提高工作效率的说法产生了冲突。搜索巨人对此表示，它的内部使用禁令是因为 Bard 会产生不需要的代码建议，潜在会导致程序出 bug 或过于复杂，软件过于臃肿，相比不使用 AI 辅助编程需要更多时间修复。
https://www.theregister.com/2023/06/19/even_google_warns_its_own/
#人工智能
2023-06-20 13:51:00 by 燃烧的银河
Google 警告员工在使用 Bard 时不要泄露机密信息或用其生成代码。其它大公司也对员工发出了类似的警告。但 Google 的警告与其声称 Bard 有助于开发者提高工作效率的说法产生了冲突。搜索巨人对此表示，它的内部使用禁令是因为 Bard 会产生不需要的代码建议，潜在会导致程序出 bug 或过于复杂，软件过于臃肿，相比不使用 AI 辅助编程需要更多时间修复。
https://www.theregister.com/2023/06/19/even_google_warns_its_own/
#人工智能
日本表示版权不适用于 AI 训练
2023-06-01 14:51:00 by 蒸汽歌剧
日本教育、文化、体育、科技大臣 Keiko Nagaoka 表示，法律不保护 AI 数据集使用的版权材料。日本政府相信版权可能会阻碍在 AI 技术方面的进展，因此为保持竞争力而采取了不管版权的方法。不是所有人都认同政府的这一决定，动漫和画师担心 AI 会降低其作品的价值，而学术界和商界则督促政府利用宽松的数据法律推动日本成为全球 AI 的主导者、
https://technomancers.ai/japan-goes-all-in-copyright-doesnt-apply-to-ai-training/
#人工智能
2023-06-01 14:51:00 by 蒸汽歌剧
日本教育、文化、体育、科技大臣 Keiko Nagaoka 表示，法律不保护 AI 数据集使用的版权材料。日本政府相信版权可能会阻碍在 AI 技术方面的进展，因此为保持竞争力而采取了不管版权的方法。不是所有人都认同政府的这一决定，动漫和画师担心 AI 会降低其作品的价值，而学术界和商界则督促政府利用宽松的数据法律推动日本成为全球 AI 的主导者、
https://technomancers.ai/japan-goes-all-in-copyright-doesnt-apply-to-ai-training/
#人工智能
Meta 公布革命性可扩展模型架构 Megabyte
2023-05-24 23:46:00 by 跃入虚空
Meta 公司的 AI 研究人员在预印本平台 arXiv 上发表论文《MEGABYTE: Predicting Million-byte Sequences with Multiscale Transformers》，提出了一种革命性的可扩展模型架构 Megabyte。今天的高性能生成式 AI 模型如 OpenAI 的 GPT-4，都是基于 Google 研究人员在 2017 年提出的 Transformer 架构。Meta 的研究人员认为 Transformer 架构可能达到了其阈值，它有两大设计缺陷：第一，随着输入输出长度的增加，自我关注显著扩大。Transformer 语言模型需要注意所有单词，当需要处理的单词量数以千计，计算非常密集。第二，前馈神经网络存在扩展性难题。Megabyte 模型提出了一种不同的架构，它将输入输出序列分割为“补丁（patches）”而不是个别的令牌（tokens）。在每个补丁中，局域 AI 生成结果，全局模型管理协调所有补丁的最终输出，从而解决了扩展性问题。Megabyte 能并行进行计算，相比下传统 Transformers 是串行计算。测试显示，有 15 亿参数的 Megabyte 模型比有 3.5 亿参数的 Transformers 模型生成序列快 40%。Megabyte 模型能支持最多 120 万个令牌，相比下 GPT-4 是 3.2 万个令牌，Anthropic 的 Claude 是 10 万个令牌。
https://arxiv.org/abs/2305.07185
https://www.artisana.ai/articles/meta-ai-unleashes-megabyte-a-revolutionary-scalable-model-architecture
#人工智能
2023-05-24 23:46:00 by 跃入虚空
Meta 公司的 AI 研究人员在预印本平台 arXiv 上发表论文《MEGABYTE: Predicting Million-byte Sequences with Multiscale Transformers》，提出了一种革命性的可扩展模型架构 Megabyte。今天的高性能生成式 AI 模型如 OpenAI 的 GPT-4，都是基于 Google 研究人员在 2017 年提出的 Transformer 架构。Meta 的研究人员认为 Transformer 架构可能达到了其阈值，它有两大设计缺陷：第一，随着输入输出长度的增加，自我关注显著扩大。Transformer 语言模型需要注意所有单词，当需要处理的单词量数以千计，计算非常密集。第二，前馈神经网络存在扩展性难题。Megabyte 模型提出了一种不同的架构，它将输入输出序列分割为“补丁（patches）”而不是个别的令牌（tokens）。在每个补丁中，局域 AI 生成结果，全局模型管理协调所有补丁的最终输出，从而解决了扩展性问题。Megabyte 能并行进行计算，相比下传统 Transformers 是串行计算。测试显示，有 15 亿参数的 Megabyte 模型比有 3.5 亿参数的 Transformers 模型生成序列快 40%。Megabyte 模型能支持最多 120 万个令牌，相比下 GPT-4 是 3.2 万个令牌，Anthropic 的 Claude 是 10 万个令牌。
https://arxiv.org/abs/2305.07185
https://www.artisana.ai/articles/meta-ai-unleashes-megabyte-a-revolutionary-scalable-model-architecture
#人工智能
日本艺人协会认为 AI 剥夺工作机会
2023-05-10 15:40:00 by 人猿泰山之结缘蚁人
由自由声优、音乐家等组成的日本艺人协会举行记者会，称 AI 的发展导致表达的技术被剥夺，许多人面临失业的风险。协会共有会员约 5.2 万人，除声优等之外，还包括美术家、演员、舞台工作人员等。协会指出，无需声优和演员等实际参演，AI 就能制作动漫、电影、音乐等作品，从事制作的工作人员很可能面临失业。协会要求完善法律，对声音与演技相关权利作出新的规定，并使 AI 制作作品时参照的表演者等能要求适当的报酬。
https://china.kyodonews.net/news/2023/05/2f09e1bfa393-ai-.html
#人工智能
2023-05-10 15:40:00 by 人猿泰山之结缘蚁人
由自由声优、音乐家等组成的日本艺人协会举行记者会，称 AI 的发展导致表达的技术被剥夺，许多人面临失业的风险。协会共有会员约 5.2 万人，除声优等之外，还包括美术家、演员、舞台工作人员等。协会指出，无需声优和演员等实际参演，AI 就能制作动漫、电影、音乐等作品，从事制作的工作人员很可能面临失业。协会要求完善法律，对声音与演技相关权利作出新的规定，并使 AI 制作作品时参照的表演者等能要求适当的报酬。
https://china.kyodonews.net/news/2023/05/2f09e1bfa393-ai-.html
#人工智能
Google CEO 谈 AI 时代的不作恶信条
2023-04-18 17:51:00 by 王朝启示录
Google CEO 皮查伊（Sundar Pichai）接受 CBS 《60 分钟》节目的采访，谈论了他对 AI 的担忧，以及为什么该公司不发布 AI 聊天机器人的高级版本。皮查伊称，Google 创办之初制定的不作恶信条仍然在公司的行为准则内，不发布 AI 聊天机器人 Bard 的高级版本是出于负责任的理念，给社会更多时间适应技术，给公司更多时间开发安全层。皮查伊称，让他夜不能寐的是 Google 的 AI 技术被以有害的方式利用。Bard 内置了安全过滤器，以帮助抵御恶意用户的威胁。Google 需要持续更新系统的算法，以打击虚假信息，检测深度伪造（deepfakes）和逼真的计算机生成图像。皮查伊表示，消费者 AI 技术正处于起步阶段，现在是政府介入的正确时机。他称 AI 技术必须被监管，确保它如 Google 行为准则描绘的那样“做正确的事”。
https://www.cbsnews.com/news/how-googles-dont-be-evil-motto-has-evolved-for-ai-age-60-minutes-2023-04-16/
#人工智能
2023-04-18 17:51:00 by 王朝启示录
Google CEO 皮查伊（Sundar Pichai）接受 CBS 《60 分钟》节目的采访，谈论了他对 AI 的担忧，以及为什么该公司不发布 AI 聊天机器人的高级版本。皮查伊称，Google 创办之初制定的不作恶信条仍然在公司的行为准则内，不发布 AI 聊天机器人 Bard 的高级版本是出于负责任的理念，给社会更多时间适应技术，给公司更多时间开发安全层。皮查伊称，让他夜不能寐的是 Google 的 AI 技术被以有害的方式利用。Bard 内置了安全过滤器，以帮助抵御恶意用户的威胁。Google 需要持续更新系统的算法，以打击虚假信息，检测深度伪造（deepfakes）和逼真的计算机生成图像。皮查伊表示，消费者 AI 技术正处于起步阶段，现在是政府介入的正确时机。他称 AI 技术必须被监管，确保它如 Google 行为准则描绘的那样“做正确的事”。
https://www.cbsnews.com/news/how-googles-dont-be-evil-motto-has-evolved-for-ai-age-60-minutes-2023-04-16/
#人工智能
ChatGPT 通过了 Google 的编程面试考验
2023-02-06 15:22:00 by 父子双雄
根据一份内部文件，Google 向 ChatGPT 输入了其编程面试问题，然而根据其回答，聘请它为 L3 级工程师，这是一个入门级工程师职位但薪水并不低。ChatGPT 是否会取代软件工程师或至少是初级的工程师？ChatGPT 自己给出的答案是不会，声明自己是一个能帮助完成部分任务的工具，不能完全取代一位具有创造力、问题解决能力和批判性思维的人类软件工程师。它也需要人类的监督和指导才能有效运作。那么 20 年后呢？ChatGPT 承认也许那时候会影响初级职位，但重申不会完全人类软件工程师。ChatGPT 回答问题能力已经让搜索巨人倍感警惕，它正在加快测试基于 LaMDA 的 AI 聊天机器人。
https://developers.slashdot.org/story/23/02/05/2024234/chatgpt-passes-googles-coding-interview-answers-question-about-more-possible-layoffs
#人工智能
2023-02-06 15:22:00 by 父子双雄
根据一份内部文件，Google 向 ChatGPT 输入了其编程面试问题，然而根据其回答，聘请它为 L3 级工程师，这是一个入门级工程师职位但薪水并不低。ChatGPT 是否会取代软件工程师或至少是初级的工程师？ChatGPT 自己给出的答案是不会，声明自己是一个能帮助完成部分任务的工具，不能完全取代一位具有创造力、问题解决能力和批判性思维的人类软件工程师。它也需要人类的监督和指导才能有效运作。那么 20 年后呢？ChatGPT 承认也许那时候会影响初级职位，但重申不会完全人类软件工程师。ChatGPT 回答问题能力已经让搜索巨人倍感警惕，它正在加快测试基于 LaMDA 的 AI 聊天机器人。
https://developers.slashdot.org/story/23/02/05/2024234/chatgpt-passes-googles-coding-interview-answers-question-about-more-possible-layoffs
#人工智能
英伟达 CUDA 对机器学习的垄断正逐步瓦解
2023-01-16 22:16:00 by 美丽新世界
过去十年，机器学习软件开发框架经历了巨大变化。虽然大部分框架严重依赖于英伟达 CUDA，在 英伟达 CUDA 上有最佳性能。但随着 PyTorch 2.0 和 OpenAI Triton 的到来，英伟达 CUDA 对机器学习的垄断地位正逐渐瓦解。几年前，Google 的 TensorFlow 框架及专用加速器 TPU 具有先发优势，Google 被认为有望在机器学习行业占据主导地位。然而 Google 未能将先发优势转变为行业主导地位。PyTorch 赢了。没有使用 PyTorch 和 GPU 的 Google 孤立于机器学习社区。Google 偏爱自己软件栈和硬件，甚至于以典型的 Google 风格，它还开发了第二个框架 Jax 与自家的 TensorFlow 展开直接竞争。PyTorch 的一大优势是其灵活性，而即将到来的 2.0 将能更容易的利用不同硬件资源。PyTorch 2.0 改进英伟达 A100 GPU 训练性能达 86%，CPU 推理性能提升 26%，显著减少了训练模型所需的计算时间和成本。它还可以扩展到 AMD、英特尔、Tenstorrent、Luminous Computing、特斯拉、Google、亚马逊、微软、Marvell、Meta、Graphcore、Cerebras、SambaNova 等公司生产的 GPU 和加速器上。OpenAI 的 Triton 同样对英伟达的机器学习闭源软件护城河产生冲击，它可以跳过闭源 CUDA 库如 cuBLAS，使用开源库如 cutlass。使用 CUDA 需要对底层硬件有深入了解，而 Triton 能让高级语言达到与使用低级语言相当的性能，提高了可用性。OpenAI Triton 目前只支持英伟达 GPU，但未来将会支持其它硬件制造商。
https://www.semianalysis.com/p/nvidiaopenaitritonpytorch
#人工智能
2023-01-16 22:16:00 by 美丽新世界
过去十年，机器学习软件开发框架经历了巨大变化。虽然大部分框架严重依赖于英伟达 CUDA，在 英伟达 CUDA 上有最佳性能。但随着 PyTorch 2.0 和 OpenAI Triton 的到来，英伟达 CUDA 对机器学习的垄断地位正逐渐瓦解。几年前，Google 的 TensorFlow 框架及专用加速器 TPU 具有先发优势，Google 被认为有望在机器学习行业占据主导地位。然而 Google 未能将先发优势转变为行业主导地位。PyTorch 赢了。没有使用 PyTorch 和 GPU 的 Google 孤立于机器学习社区。Google 偏爱自己软件栈和硬件，甚至于以典型的 Google 风格，它还开发了第二个框架 Jax 与自家的 TensorFlow 展开直接竞争。PyTorch 的一大优势是其灵活性，而即将到来的 2.0 将能更容易的利用不同硬件资源。PyTorch 2.0 改进英伟达 A100 GPU 训练性能达 86%，CPU 推理性能提升 26%，显著减少了训练模型所需的计算时间和成本。它还可以扩展到 AMD、英特尔、Tenstorrent、Luminous Computing、特斯拉、Google、亚马逊、微软、Marvell、Meta、Graphcore、Cerebras、SambaNova 等公司生产的 GPU 和加速器上。OpenAI 的 Triton 同样对英伟达的机器学习闭源软件护城河产生冲击，它可以跳过闭源 CUDA 库如 cuBLAS，使用开源库如 cutlass。使用 CUDA 需要对底层硬件有深入了解，而 Triton 能让高级语言达到与使用低级语言相当的性能，提高了可用性。OpenAI Triton 目前只支持英伟达 GPU，但未来将会支持其它硬件制造商。
https://www.semianalysis.com/p/nvidiaopenaitritonpytorch
#人工智能
