Reki的轻博客, 日常生活流水帐和信息见闻&吐槽.
你将在本频道看到包括且不限于以下话题:
菜菜程序员屎山遨游见闻
猎人 · 特工 · 提督 · 雀士 · 猎魔人 · 开位御主 · 期间限定回归
二五仔毒奶观测者
刀客塔沉船记录
财经新闻胡乱精选
生草新闻摘抄 & 分享
频道主突发恶疾
你将在本频道看到包括且不限于以下话题:
菜菜程序员屎山遨游见闻
猎人 · 特工 · 提督 · 雀士 · 猎魔人 · 开位御主 · 期间限定回归
二五仔毒奶观测者
刀客塔沉船记录
财经新闻胡乱精选
生草新闻摘抄 & 分享
频道主突发恶疾
「由于与中国的竞争、俄罗斯在乌克兰的战争以及美国债务上限的争议,美元作为世界主要货币的地位受到审视。根据国际货币基金组织的数据,美元在2022年第四季度的官方外汇储备中的份额下降到了20年来的最低水平,仅为58%。然而,美元的地位得到了价值约23万亿美元的美国国债市场的支撑,这被视为一个安全的资金避风港。虽然可能没有一个单一的美元接替者,但不断涌现的替代方案可能会导致一个多极世界的出现。」
https://www.reuters.com/markets/currencies/end-king-dollar-forces-play-de-dollarisation-2023-05-25
https://www.reuters.com/markets/currencies/end-king-dollar-forces-play-de-dollarisation-2023-05-25
Meta 公布革命性可扩展模型架构 Megabyte
2023-05-24 23:46:00 by 跃入虚空
Meta 公司的 AI 研究人员在预印本平台 arXiv 上发表论文《MEGABYTE: Predicting Million-byte Sequences with Multiscale Transformers》,提出了一种革命性的可扩展模型架构 Megabyte。今天的高性能生成式 AI 模型如 OpenAI 的 GPT-4,都是基于 Google 研究人员在 2017 年提出的 Transformer 架构。Meta 的研究人员认为 Transformer 架构可能达到了其阈值,它有两大设计缺陷:第一,随着输入输出长度的增加,自我关注显著扩大。Transformer 语言模型需要注意所有单词,当需要处理的单词量数以千计,计算非常密集。第二,前馈神经网络存在扩展性难题。Megabyte 模型提出了一种不同的架构,它将输入输出序列分割为“补丁(patches)”而不是个别的令牌(tokens)。在每个补丁中,局域 AI 生成结果,全局模型管理协调所有补丁的最终输出,从而解决了扩展性问题。Megabyte 能并行进行计算,相比下传统 Transformers 是串行计算。测试显示,有 15 亿参数的 Megabyte 模型比有 3.5 亿参数的 Transformers 模型生成序列快 40%。Megabyte 模型能支持最多 120 万个令牌,相比下 GPT-4 是 3.2 万个令牌,Anthropic 的 Claude 是 10 万个令牌。
https://arxiv.org/abs/2305.07185
https://www.artisana.ai/articles/meta-ai-unleashes-megabyte-a-revolutionary-scalable-model-architecture
#人工智能
2023-05-24 23:46:00 by 跃入虚空
Meta 公司的 AI 研究人员在预印本平台 arXiv 上发表论文《MEGABYTE: Predicting Million-byte Sequences with Multiscale Transformers》,提出了一种革命性的可扩展模型架构 Megabyte。今天的高性能生成式 AI 模型如 OpenAI 的 GPT-4,都是基于 Google 研究人员在 2017 年提出的 Transformer 架构。Meta 的研究人员认为 Transformer 架构可能达到了其阈值,它有两大设计缺陷:第一,随着输入输出长度的增加,自我关注显著扩大。Transformer 语言模型需要注意所有单词,当需要处理的单词量数以千计,计算非常密集。第二,前馈神经网络存在扩展性难题。Megabyte 模型提出了一种不同的架构,它将输入输出序列分割为“补丁(patches)”而不是个别的令牌(tokens)。在每个补丁中,局域 AI 生成结果,全局模型管理协调所有补丁的最终输出,从而解决了扩展性问题。Megabyte 能并行进行计算,相比下传统 Transformers 是串行计算。测试显示,有 15 亿参数的 Megabyte 模型比有 3.5 亿参数的 Transformers 模型生成序列快 40%。Megabyte 模型能支持最多 120 万个令牌,相比下 GPT-4 是 3.2 万个令牌,Anthropic 的 Claude 是 10 万个令牌。
https://arxiv.org/abs/2305.07185
https://www.artisana.ai/articles/meta-ai-unleashes-megabyte-a-revolutionary-scalable-model-architecture
#人工智能
「拜登多次表示,他正在考虑援引宪法第14条修正案,如果国会未能及时提高法定债务上限,援引该法律实际上意味着美国可以无视当前的法定债务上限。这项在美国内战后实施的修正案规定,美国公共债务“不应受到质疑”。」
https://cn.wsj.com/articles/在围绕债务上限的斗争中-拜登没有太好的选择-52836cbc
https://cn.wsj.com/articles/在围绕债务上限的斗争中-拜登没有太好的选择-52836cbc
「因此,外资公司确实有一些这样的挑战要面对。这更像是关系恶化带来的一种长期影响。在日常运营中,我认为影响没有那么大。
你确实需要采取一种谨慎的态度。如果你要对潜在的商业伙伴或收购目标进行深入审查,应该与中国的律师事务所以及能够帮助进行尽职调查的第三方公司合作,以确保你不会触犯任何新的法律法规。」
https://cn.wsj.com/articles/专访-为何在中国做生意越来越难-895d947d
你确实需要采取一种谨慎的态度。如果你要对潜在的商业伙伴或收购目标进行深入审查,应该与中国的律师事务所以及能够帮助进行尽职调查的第三方公司合作,以确保你不会触犯任何新的法律法规。」
https://cn.wsj.com/articles/专访-为何在中国做生意越来越难-895d947d
https://t.me/CE_Observe/27657
责任全在中方,中方这是搬起石头砸自己的脚.jpg
责任全在中方,中方这是搬起石头砸自己的脚.jpg
「因为中国媒体几乎不在美国做现场采访,同时又有批判美国的迫切需求。所以每次中国媒体想找美国的负面新闻填充版面,只能引用美国人自己的批判内容。」
http://telegra.ph/睡前消息593期文稿讲个段子罚8亿美元中国媒体也该管管了-05-25
http://telegra.ph/睡前消息593期文稿讲个段子罚8亿美元中国媒体也该管管了-05-25
「美国情报机构和微软公司今日宣布,他们在关岛和美国其他地方的电信系统中发现了一种神秘的计算机代码,微软公司称这是由一个中国政府黑客组织安装的。这一发现引发警觉。关岛拥有太平洋港口和庞大的美国空军基地,若中国入侵或封锁台湾,关岛将成为美国军事反应的核心所在。」
https://www.nytimes.com/2023/05/24/us/politics/china-guam-malware-cyber-microsoft.html
AF缺乏淡水?
https://www.nytimes.com/2023/05/24/us/politics/china-guam-malware-cyber-microsoft.html
AF缺乏淡水?
「他提到,最近去新加坡參訪詢問當地高層,如何在中國與美國之間混得很好,對台灣有什麼看法?對方說,你們台灣內部都喬不好,如何對付外面,這一句話戳中台灣要害。」
https://www.chinatimes.com/realtimenews/20230524003117-260407
https://www.chinatimes.com/realtimenews/20230524003117-260407
「德桑蒂斯原本计划在Twitter Space上与埃隆·马斯克进一步讨论该决定,但由于音频流反复崩溃,多数人几乎难以实时收听。」
https://t.me/tnews365/27136
https://t.me/tnews365/27136
「欧盟还试图建立一支快速撤离特遣队,以避免出现类似从阿富汗和苏丹撤离时的混乱局面的重复发生。」
https://www.theguardian.com/world/2023/may/23/eu-discusses-earmarking-1bn-for-ukraine
https://www.theguardian.com/world/2023/may/23/eu-discusses-earmarking-1bn-for-ukraine
