H100 GPU这么贵!它究竟有多值钱?

microchip, silicon, neural, neuromorphic, ai, GPU, semiconductor, chip, SoC, tsmc, nvidia, amd, intel, qualcomm, intel, substrate, processor

说到最近最火的科技趋势,非人工智能莫属,尤其是那些像ChatGPT一样在各领域大展拳脚的AI应用。然而,要想玩转AI,你得先有强大的算力支持,而Nvidia H100 GPU正是这个领域的顶尖装备。但问题来了,这个看似冷冰冰的硬件,为什么成了各大科技巨头的必争之物?它背后又藏着哪些烧钱的秘密呢?我们今天来聊聊这场“GPU军备竞赛”背后的逻辑。

为什么H100 GPU成了香饽饽?

简单说,H100 GPU 就是AI模型训练的“发动机”。AI 模型越复杂,训练所需的算力就越高,而Nvidia的 H100 GPU 是目前市面上最强的AI处理器之一。它不仅速度快,还能同时处理海量数据,特别适合那些动辄几亿参数的AI模型。而各大科技公司正试图用这些模型开发出更聪明的AI,比如Meta正在搞的人工通用智能(AGI),听起来有点像《终结者》里的天网,牛逼吧?

再看看Elon Musk,他可是那种“有钱就得花在刀刃上”的典型代表。他家的特斯拉一口气买了。。。 继续阅读

一夜暴涨14%!台积电真的是AI救世主吗?

最近台积电的财报一公布,市场上一片惊呼:“哇,台积电简直就是AI救世主啊!”好像AI这个热潮就得靠他们撑着似的。其实这话不算错,毕竟谁能抗拒台积电这么强劲的业绩表现?10月18号台积电的ADR股价狂飙,股价一度涨到14%!不过高兴的时间也就几个小时,等你隔天醒来再看美股,突然发现整个市场其实收平盘,反应和预期差了点。这事到底是咋回事?今天我们就来好好聊聊这个问题。

台积电到底有多猛?

财报出来后,台积电毛利率创下57.8%,远远高于市场预期的55.5%,还把净利润推上了3253亿台币的高峰。看看这些数字,我要说台积电现在简直是“AI界的巨无霸”,它3纳米制程的占比从第一季的9%涨到现在的20%,全靠AI和高效能运算(HPC)的需求爆发。大家还记得吗?今年AI可不是泡沫,真正的大公司都在疯狂投资AI相关的基础建设,导致需求只增不减,连台积电自己都说未来这个市场会持续扩大。

不过,别高兴得太早。你看台积电自己也很谨慎,虽说他们很看好AI的需求,但也不敢立刻把2025、2026年的资本支出定死,毕竟市场瞬息万变。讲白了,这就是台积电的高明之处——尽管知道未来市场很牛逼,但也要防着随时变脸的可能性。作为投资者,这个心态你必须得有,不然看着股价一天猛涨个14%,你很可能就心痒痒去追高了。。。。 继续阅读

ChatGPT 桌面版来袭!但它真的好用吗?

OpenAI 最近终于推出了 Windows 桌面版 ChatGPT。这个消息一出,网上炸开了锅,尤其是那些已经习惯用网页版的人。为什么呢?因为大家都在期待更多功能,更强的整合能力。不过,大家冷静一下,这个桌面版目前还是“阉割”版,你以为的“全功能”体验,还得等上一段时间。不过,这也不意味着它没有亮点。今天就来聊聊这个早期版本到底有什么值得关注的地方,以及你接下来该怎么行动。

为什么重要:
Windows 桌面版 ChatGPT 对很多用户来说是个大新闻。毕竟,谁不喜欢随手打开一个独立应用就能高效工作呢?尤其是对于那些不喜欢频繁切换网页的用户,桌面版的推出显然能让他们的日常使用更流畅。

关键点:

  • Windows 桌面版 ChatGPT 已经上线,向 Plus、Enterprise、Team 和 Edu 用户开放早期版本。
  • 安装包大约 110MB,支持 Windows 10(x64 和 arm64)版本 17763.0 或更高版本。
  • Companion
。。。 继续阅读

AI 巨头 OpenAI 大转型!从非营利到商业帝国的蜕变

The successful path in business. Profitable.

OpenAI 正在经历一场深刻的变革,从非营利组织转型为营利性公司,并伴随着高层管理团队的剧烈动荡。这一变化可能重塑整个人工智能行业的未来走向。

为什么重要:这不仅关乎 OpenAI 的未来方向,也会影响到全球 AI 技术的发展轨迹。转型为营利性公司意味着 OpenAI 的使命和目标可能发生重大转变,这对依赖其技术的企业和开发者来说,都是一次不小的冲击。

关键点:

  • OpenAI 计划从非营利组织转型为营利性公司,同时保留一个非营利分支来追求公益目标。
  • 转型可能需要几年时间完成,目前公司正寻求 65 亿美元的融资,并已获得 10 亿美元的投资承诺。
  • 多位高层管理人员相继辞职,包括首席技术官 Mira Murati、首席研究官 Bob McGrew 以及研究副总裁 Barret Zoph。
  • Elon Musk 起诉 OpenAI,指控其误导他相信公司是非营利组织。

大局观:OpenAI 的转型表明,全球 AI 领域正在经历商业化的深刻变革。曾经以公益为目标的科技组织,如今正在积极寻求市场化的商业模式,以吸引更多投资者和资源。这一趋势可能预示着未来。。。 继续阅读

智能无极限:深度揭秘AI模型的进化之路

AI(Artificial intelligence) concept.

人工智能正在以前所未有的速度发展,这不禁让人惊叹。无论你是科技爱好者、企业管理者,还是普通用户,AI技术的进步都已悄然渗透到我们生活的方方面面。尤其是大型语言模型(LLM)的崛起,从ChatGPT到Gemini,各类智能聊天机器人日渐“聪明”,让我们不得不思考:这一切究竟是怎么发生的?又将带来怎样的未来?

今天,我们就来聊聊这个话题。通过深入探讨AI模型的规模法则,我们不仅能更好地理解它们的现状,还能一窥未来发展的趋势。什么是规模法则?简单来说,就是模型越大,计算能力越强,智能水平就越高。听起来很直白,但背后蕴藏着复杂的技术和庞大的资源投入。更重要的是,这种增长并不是线性发展的,而是成倍提升的。所以,如果你想知道AI是如何在短短几年间从一个乖巧的“小助手”进化为今天的“超级智囊”,那么这篇文章你绝对不能错过。

人工智能的规模扩展:是什么让它们越来越聪明?

要理解今天的AI模型为什么如此强大,我们首先要搞清楚它们是如何被训练出来的。这就涉及到一个概念:。。。 继续阅读

星展银行科技人员数量超银行家!AI时代的银行业变革

星展银行2023年科技人员数量是银行家的两倍,这一消息令人关注。随着金融行业对技术需求的不断增加,银行与科技的深度融合正在重新定义传统银行业务。星展银行的这一转变,是全球范围内技术人才紧缺背景下的一个缩影。

为什么重要:随着AI与大数据的崛起,银行业需要的不仅是传统的金融人才,更需要能够处理海量数据和开发智能工具的技术专家。星展银行通过大规模引入技术人员,正在提升其在数字银行领域的竞争力,并为未来金融服务奠定基础。

关键点

  • 星展银行2023年有约2500名科技人员,是银行家人数的两倍。
  • 超过800个AI模型已被应用在350个不同的场景中,预计在2025年这些模型将带来超过10亿新元的经济效益。
  • AI培训已成为星展银行的重点,员工需学习如何在日常运营中应用人工智能。
  • 早期的AI实验,如与IBM Watson的合作,曾遇到理解能力不足等技术难题。

大局观:科技人才的短缺正在全球范围内蔓延,不仅是银行业,许多传统行业都面临类似的挑战。为应对这一趋势,企业纷纷投资于技术培训和人才培养,以确保在未来的数字经济中占据一席之地。星展银行的转型反映了这一更广泛的经济动态。。。。 继续阅读

o1超越人类专家,AI推理能否彻底颠覆未来?

随着OpenAI推出最新的o1模型,AI推理能力再次跃升,引发了技术界的广泛讨论。o1模型不仅可以思考复杂问题,还通过强化学习优化其推理链条。这一进步可能彻底改变多个领域的问题解决方式。

为什么重要:AI的推理能力直接决定了其在复杂任务中的表现。从科学研究到编程,AI是否能像人类一样思考并进行推理,将决定它在未来工作和生活中的应用潜力。o1的出现,意味着AI正在接近这一目标。

关键点:

  • o1模型在数学奥林匹克比赛中排名全美前500名,比肩美国顶尖高中生。
  • 在物理、生物和化学的博士级别测试中,o1超过了人类专家的表现。
  • 通过强化学习,o1的推理能力在数据高效的训练过程中显著提升。
  • 在众多复杂推理任务中,o1远超GPT-4o。

大局观:AI的进步并不仅仅体现在语言生成上,如今,它在推理和问题解决领域的应用开始崭露头角。随着强化学习的加入,AI不仅变得更强大,还在探索如何以最小的计算成本解决复杂问题。未来,AI将逐渐进入科学、技术甚至艺术领域,为人类提供全新的解决方案。。。。 继续阅读

OpenAI颠覆AI推理的新武器:o1模型震撼登场!

OpenAI最新发布的o1系列模型,以其独特的思维链训练和隐藏的推理过程,引发了AI界的热议。这些模型究竟有何魔力,能否开启AI推理的新篇章?

OpenAI近日悄然推出了两个全新的预览模型:o1-preview和o1-mini,被传代号为“草莓”的神秘项目终于揭开面纱。这次更新不仅仅是对GPT-4o的简单升级,而是一次对AI推理能力的重大革新。

为什么重要:这些新模型通过引入思维链训练,使得AI在回答之前能花更多时间“思考”,从而更好地处理复杂的提示。这意味着在处理需要回溯和深度推理的任务时,AI的表现将大幅提升。

关键点

  • 新模型o1-preview和o1-mini已发布,但仅限于在API上消费超过1000美元的用户。
  • 模型专为“思维链”训练,能够进行更深入的推理。
  • 引入了“推理标记”,这些标记在API响应中不可见,但会计费并计入输出标记数。
  • 输出标记限额大幅增加,o1-preview为32,768,o1-mini为65,536。
。。。 继续阅读

设计缺陷导致英伟达新AI芯片发布延期:对科技巨头的影响

Artificial Intelligence Computer Chip Semiconductor

英伟达即将发布的最先进AI芯片Blackwell因设计缺陷面临推迟,预计将推迟三个月或更长时间。这一问题可能影响多个科技巨头的计划和进程。

为什么重要:
这次发布推迟对AI和科技行业有着深远影响。首先,Meta Platforms、谷歌和Microsoft等公司已预订了大量芯片,延迟将影响它们的研发和产品发布计划。其次,这暴露了高科技芯片设计和制造中的潜在风险,提醒行业内的其他公司注意类似问题。最后,英伟达作为AI芯片领域的领导者,其任何问题都会引发市场的广泛关注和担忧。

关键点:

  • Blackwell系列芯片设计缺陷导致生产延期,预计推迟三个月以上。
  • 摩根士丹利报告称,生产暂停两周,预计2024年第四季度赶上进度。
  • 主要客户Meta Platforms、谷歌和Microsoft等公司的计划受到影响。
  • 台积电在准备大规模生产时发现缺陷,影响了生产进度。

大局观:
这一事件凸显了AI芯片设计和制造的复杂性及高风险。虽然高科技公司在产品发布前进行多次测试和模拟,但仍有可能在大规模生产前发现重大设计缺陷。这次事件不仅影响了英伟达的生产计划,也提醒了行业内其他公司需更加谨慎。此外,这种推迟可能会激发市场对其他AI芯片制造商的兴趣,分散英伟达的市场份额。。。。 继续阅读