人工智能 | 雷姬家的阁楼书架

Y 孵化器支持的 AI 公司被批评其产品是在虐待工厂工人2025-02-26 20

Wed, 26 Feb 2025 12:51:13 GMT

Y 孵化器支持的 AI 公司被批评其产品是在虐待工厂工人

2025-02-26 20:39 by 水刀子

Y 孵化器支持的 AI 公司 Optifye.ai 的产品是利用监控探头为工厂实时监视工人的工作情况，该公司刚刚发布了一则演示其工作方式的视频，结果引发了广泛批评，最终导致视频被撤下。在视频中，公司联合创始人 Kushal Mohta 扮演了一家服装厂的老板，向主管（由另一位联合创始人 Vivaan Baid 扮演）询问一位编号为 17 的工人的表现。Baid 随即通过监控探头与 17 号工人当面对质，这位工人回答他整天在工作。但监控仪表盘显示这名工人的工作效率过去半个月都很糟糕。主管对工人进行了批评。这段视频在社交媒体上引发了将工人非人化的批评，认为该公司的服务是“血汗工厂即服务”。在 Y 孵化器的论坛 Hacker News 上该演示视频也引发了争议和批评。

Techcrunch:Y Combinator deletes posts after a startup’s demo goes viral

Tell HN: Y Combinator backing AI company to abuse factory workers

#人工智能

新晋诺奖得主称赞其学生解雇了 Sam Altman2024-10-10 02

Thu, 10 Oct 2024 06:42:22 GMT

新晋诺奖得主称赞其学生解雇了 Sam Altman

2024-10-10 02:18 by 生命之书

加拿大多伦多大学的 Geoffrey E. Hinton 教授因在 AI 神经网络上的基础性工作而获得了 2024 年度的诺贝尔物理学家，在 AI 上的工作也让他赢得了 AI 教父的美名。他在周二的演讲中特别称赞了一名学生——前 OpenAI 首席科学家 Ilya Sutskever——参与解雇了 CEO Sam Altman 的行动。Hinton 教授说，我特别幸运，有许多非常聪明的学生——比我更聪明——他们完成了真正的工作。他们之后都取得了杰出的成就。我尤其为其中一名学生解雇 Sam Altman 而自豪。Ilya Sutskever 所在的 OpenAI 董事会去年底做出了解雇这家炙手可热 AI 创业公司 CEO 的决定，但这次行动最终未取得成功，Sam Altman 恢复了 CEO 职位，包括 Sutskever 在内的主要参与者在一年之内都离开了 OpenAI。

https://slashdot.org/story/24/10/09/1949256/after-winning-nobel-prize-geoffrey-hinton-said-he-was-proud-ilya-sutskever-fired-sam-altman

#人工智能

大模型的幻觉是不可避免地2024-09-15 11

Wed, 18 Sep 2024 03:44:31 GMT

大模型的幻觉是不可避免地

2024-09-15 11:48 by 暗黑童话

随着大模型的日益普及，批判性地检查其固有的局限性也日益重要。幻觉是大模型最常见的问题之一，我们是否可能通过改进大模型去减少或阻止幻觉的产生？United We Care 的三名研究人员在预印本平台 arXiv 上发表研究报告，他们从数学上证明，幻觉是不可避免地，也是不可能消除的。幻觉源自大模型的数学和逻辑结构，不可能通过改进架构、增强数据集或事实核查机制消除。根据哥德尔的第一不完备定理，研究人员证明大模型的每一个阶段，从训练数据搜集到事实检索、意图分类和文本生成，每个阶段产生幻觉的几率都不是零。

https://arxiv.org/abs/2409.05746

#人工智能

Fri, 05 Jul 2024 08:50:41 GMT

https://t.me/solidot/24562
如禁（

Solidot

英伟达将向中国公司交付逾百万 H20 芯片

2024-07-05 15:53 by 向世界倾诉爱

英伟达今年有望在中国销售价值 120 亿美元的人工智能芯片，尽管美国的出口管制抑制了该公司在全球最大半导体市场之一的业务。根据分析师预测，英伟达将在未来几个月交付逾 100 万块新型 H20 芯片。这种芯片的设计旨在避开美国对向中国客户销售人工智能处理器的限制。每块 H20 芯片价格在 12,000 至 13,000 美元之间，总销售额将超过上个财年中国全年销售额——截至 2024 年 1 月的财年中国区业务收入为…

AI 产品仍然依靠人类去填补性能差距2024-04-14 23

Mon, 15 Apr 2024 06:04:07 GMT

AI 产品仍然依靠人类去填补性能差距

2024-04-14 23:07 by 沉船岛

最近的新闻清晰表明，如果 AI 在一项人类任务中表现出色，那么很有可能该任务实际上就是人类做的。今年初，乔治卡林（George Carlin）遗产执行机构起诉了声称使用 AI 制作了乔治卡林风格节目的播客，该播客之后披露节目剧本事实上是名叫 Chad 的人类完成的。双方之后达成了和解。一家为汽车餐厅提供 AI 语音界面的公司在没有人工帮助下只能完成三成工作。亚马逊新商店放弃了 Just Walk Out 自动结账系统，原因是该系统事实上需要人类进行验证。如果我们的记忆不是三秒钟的话，同样的事情几年前就发生过：2015 年 AI 聊天机器人就很热门。一家创业公司 x.ai 称其 AI 助手能阅读邮件安排会议，一家叫 GoButler 的公司可以帮助预订航班或订购薯条。这些所谓的 AI 助手都需要人工。人类躲在机器人后面，确保它不会犯错误或胡说八道。

https://slashdot.org/story/24/04/12/127208/many-ai-products-still-rely-on-humans-to-fill-the-performance-gaps

#人工智能

Google 警告员工不要使用 Bard 生成的代码2023-06-20 13

Tue, 20 Jun 2023 07:37:39 GMT

Google 警告员工不要使用 Bard 生成的代码

2023-06-20 13:51:00 by 燃烧的银河

Google 警告员工在使用 Bard 时不要泄露机密信息或用其生成代码。其它大公司也对员工发出了类似的警告。但 Google 的警告与其声称 Bard 有助于开发者提高工作效率的说法产生了冲突。搜索巨人对此表示，它的内部使用禁令是因为 Bard 会产生不需要的代码建议，潜在会导致程序出 bug 或过于复杂，软件过于臃肿，相比不使用 AI 辅助编程需要更多时间修复。

https://www.theregister.com/2023/06/19/even_google_warns_its_own/

#人工智能

日本表示版权不适用于 AI 训练2023-06-01 14

Thu, 01 Jun 2023 11:01:12 GMT

日本表示版权不适用于 AI 训练

2023-06-01 14:51:00 by 蒸汽歌剧

日本教育、文化、体育、科技大臣 Keiko Nagaoka 表示，法律不保护 AI 数据集使用的版权材料。日本政府相信版权可能会阻碍在 AI 技术方面的进展，因此为保持竞争力而采取了不管版权的方法。不是所有人都认同政府的这一决定，动漫和画师担心 AI 会降低其作品的价值，而学术界和商界则督促政府利用宽松的数据法律推动日本成为全球 AI 的主导者、

https://technomancers.ai/japan-goes-all-in-copyright-doesnt-apply-to-ai-training/

#人工智能

Meta 公布革命性可扩展模型架构 Megabyte2023-05-24 23

Thu, 25 May 2023 06:10:11 GMT

Meta 公布革命性可扩展模型架构 Megabyte

2023-05-24 23:46:00 by 跃入虚空

Meta 公司的 AI 研究人员在预印本平台 arXiv 上发表论文《MEGABYTE: Predicting Million-byte Sequences with Multiscale Transformers》，提出了一种革命性的可扩展模型架构 Megabyte。今天的高性能生成式 AI 模型如 OpenAI 的 GPT-4，都是基于 Google 研究人员在 2017 年提出的 Transformer 架构。Meta 的研究人员认为 Transformer 架构可能达到了其阈值，它有两大设计缺陷：第一，随着输入输出长度的增加，自我关注显著扩大。Transformer 语言模型需要注意所有单词，当需要处理的单词量数以千计，计算非常密集。第二，前馈神经网络存在扩展性难题。Megabyte 模型提出了一种不同的架构，它将输入输出序列分割为“补丁（patches）”而不是个别的令牌（tokens）。在每个补丁中，局域 AI 生成结果，全局模型管理协调所有补丁的最终输出，从而解决了扩展性问题。Megabyte 能并行进行计算，相比下传统 Transformers 是串行计算。测试显示，有 15 亿参数的 Megabyte 模型比有 3.5 亿参数的 Transformers 模型生成序列快 40%。Megabyte 模型能支持最多 120 万个令牌，相比下 GPT-4 是 3.2 万个令牌，Anthropic 的 Claude 是 10 万个令牌。

https://arxiv.org/abs/2305.07185
https://www.artisana.ai/articles/meta-ai-unleashes-megabyte-a-revolutionary-scalable-model-architecture

#人工智能

日本艺人协会认为 AI 剥夺工作机会2023-05-10 15

Wed, 10 May 2023 08:12:53 GMT

日本艺人协会认为 AI 剥夺工作机会

2023-05-10 15:40:00 by 人猿泰山之结缘蚁人

由自由声优、音乐家等组成的日本艺人协会举行记者会，称 AI 的发展导致表达的技术被剥夺，许多人面临失业的风险。协会共有会员约 5.2 万人，除声优等之外，还包括美术家、演员、舞台工作人员等。协会指出，无需声优和演员等实际参演，AI 就能制作动漫、电影、音乐等作品，从事制作的工作人员很可能面临失业。协会要求完善法律，对声音与演技相关权利作出新的规定，并使 AI 制作作品时参照的表演者等能要求适当的报酬。

https://china.kyodonews.net/news/2023/05/2f09e1bfa393-ai-.html

#人工智能

Google CEO 谈 AI 时代的不作恶信条2023-04-18 17

Tue, 18 Apr 2023 11:34:39 GMT

Google CEO 谈 AI 时代的不作恶信条

2023-04-18 17:51:00 by 王朝启示录

Google CEO 皮查伊（Sundar Pichai）接受 CBS 《60 分钟》节目的采访，谈论了他对 AI 的担忧，以及为什么该公司不发布 AI 聊天机器人的高级版本。皮查伊称，Google 创办之初制定的不作恶信条仍然在公司的行为准则内，不发布 AI 聊天机器人 Bard 的高级版本是出于负责任的理念，给社会更多时间适应技术，给公司更多时间开发安全层。皮查伊称，让他夜不能寐的是 Google 的 AI 技术被以有害的方式利用。Bard 内置了安全过滤器，以帮助抵御恶意用户的威胁。Google 需要持续更新系统的算法，以打击虚假信息，检测深度伪造（deepfakes）和逼真的计算机生成图像。皮查伊表示，消费者 AI 技术正处于起步阶段，现在是政府介入的正确时机。他称 AI 技术必须被监管，确保它如 Google 行为准则描绘的那样“做正确的事”。

https://www.cbsnews.com/news/how-googles-dont-be-evil-motto-has-evolved-for-ai-age-60-minutes-2023-04-16/

#人工智能

ChatGPT 通过了 Google 的编程面试考验2023-02-06 15

Tue, 07 Feb 2023 01:41:28 GMT

ChatGPT 通过了 Google 的编程面试考验

2023-02-06 15:22:00 by 父子双雄

根据一份内部文件，Google 向 ChatGPT 输入了其编程面试问题，然而根据其回答，聘请它为 L3 级工程师，这是一个入门级工程师职位但薪水并不低。ChatGPT 是否会取代软件工程师或至少是初级的工程师？ChatGPT 自己给出的答案是不会，声明自己是一个能帮助完成部分任务的工具，不能完全取代一位具有创造力、问题解决能力和批判性思维的人类软件工程师。它也需要人类的监督和指导才能有效运作。那么 20 年后呢？ChatGPT 承认也许那时候会影响初级职位，但重申不会完全人类软件工程师。ChatGPT 回答问题能力已经让搜索巨人倍感警惕，它正在加快测试基于 LaMDA 的 AI 聊天机器人。

https://developers.slashdot.org/story/23/02/05/2024234/chatgpt-passes-googles-coding-interview-answers-question-about-more-possible-layoffs

#人工智能

英伟达 CUDA 对机器学习的垄断正逐步瓦解2023-01-16 22

Mon, 16 Jan 2023 16:35:16 GMT

英伟达 CUDA 对机器学习的垄断正逐步瓦解

2023-01-16 22:16:00 by 美丽新世界

过去十年，机器学习软件开发框架经历了巨大变化。虽然大部分框架严重依赖于英伟达 CUDA，在英伟达 CUDA 上有最佳性能。但随着 PyTorch 2.0 和 OpenAI Triton 的到来，英伟达 CUDA 对机器学习的垄断地位正逐渐瓦解。几年前，Google 的 TensorFlow 框架及专用加速器 TPU 具有先发优势，Google 被认为有望在机器学习行业占据主导地位。然而 Google 未能将先发优势转变为行业主导地位。PyTorch 赢了。没有使用 PyTorch 和 GPU 的 Google 孤立于机器学习社区。Google 偏爱自己软件栈和硬件，甚至于以典型的 Google 风格，它还开发了第二个框架 Jax 与自家的 TensorFlow 展开直接竞争。PyTorch 的一大优势是其灵活性，而即将到来的 2.0 将能更容易的利用不同硬件资源。PyTorch 2.0 改进英伟达 A100 GPU 训练性能达 86%，CPU 推理性能提升 26%，显著减少了训练模型所需的计算时间和成本。它还可以扩展到 AMD、英特尔、Tenstorrent、Luminous Computing、特斯拉、Google、亚马逊、微软、Marvell、Meta、Graphcore、Cerebras、SambaNova 等公司生产的 GPU 和加速器上。OpenAI 的 Triton 同样对英伟达的机器学习闭源软件护城河产生冲击，它可以跳过闭源 CUDA 库如 cuBLAS，使用开源库如 cutlass。使用 CUDA 需要对底层硬件有深入了解，而 Triton 能让高级语言达到与使用低级语言相当的性能，提高了可用性。OpenAI Triton 目前只支持英伟达 GPU，但未来将会支持其它硬件制造商。

https://www.semianalysis.com/p/nvidiaopenaitritonpytorch

#人工智能