AI+商业
Artificial Intelligence & Bussiness
OpenAI推“Flex处理”模式,AI使用费用减半但响应更慢
为应对Google等竞争对手,OpenAI近日推出名为“Flex处理”的API新选项,以较慢的响应时间和偶尔资源不可用为代价,换取AI模型使用费用减半。该功能目前处于测试阶段,适用于最新的o3与o4-mini推理模型,主要面向低优先级任务,如模型评估、数据整理和异步处理。使用Flex后,o3输入输出费用分别降至每百万Token 5美元和20美元,o4-mini降至0.55美元和2.2美元。
此举正值AI算力成本持续上升之际,Google也推出了性价比更高的Gemini 2.5 Flash模型。此外,OpenAI还要求消费分级为1至3级的开发者完成身份验证,方可使用o3模型及其部分高级功能,旨在防止滥用。
Google发布Gemini 2.5 Flash,推出“思考预算”功能大幅降低AI成本
近日,Google正式推出了Gemini 2.5 Flash,这是其AI系列的重要升级,带来了前所未有的“思考预算”功能,允许开发者根据需求调整AI的计算能力,以降低成本。此功能使得开发者可以灵活控制AI在处理复杂问题时的推理深度,从而减少高延迟和高成本的问题。
“思考预算”机制允许开发者设定推理的计算资源上限,以优化成本。开发者可以选择关闭思考功能,以最低成本完成简单任务;而对于需要多步推理的复杂问题,可以开启推理功能来提高准确性,虽然成本会随之增加,开启推理后的输出成本高达每百万token 3.50美元,关闭时仅为0.60美元。
Google表示,Gemini 2.5 Flash在关键基准测试中的表现十分优异,特别是在数学、跨模态推理和长上下文处理方面,显示出相对于竞争对手的优势。该模型的推出,标志着Google在AI市场中积极优化定价与性能,以吸引企业客户,尤其是那些希望精确控制AI部署成本的企业。
此款新模型目前在Google AI Studio和Vertex AI中提供预览,并将根据开发者反馈进一步优化。Google也在努力通过调整AI的“思考”功能,满足不同行业对于AI应用的多样化需求。
Spexi推出LayerDrone去中心化网络,众包高分辨率地球影像
日前,加拿大无人机初创公司Spexi Geospatial宣布推出LayerDrone基金会及其去中心化网络,旨在鼓励全球的业余无人机飞行员捕捉超高分辨率的地球影像。该公司自去年成立以来,已奖励飞行员超过100万美元,并在2.3百万英亩的土地上拍摄了超过1000万张图像。
Spexi的LayerDrone网络通过激励机制,让无人机飞行员快速捕捉全球城市影像,其分辨率是卫星影像的900倍,成本也比传统航空或卫星影像低50倍。飞行员通过执行指定任务,能够获得每次飞行约50美元的奖励。至今,Spexi已在北美和欧洲拍摄了160多个城市的超高分辨率影像。
该平台的去中心化结构使得无人机飞行员能够共同管理网络,并通过加密货币激励机制参与数据收集。Spexi还计划通过LayerDrone基金会推出代币,进一步推动网络发展并吸引更多参与者。
LayerDrone的推出标志着地球影像技术的重大进步,不仅提高了影像的精度,还为灾难响应、自动驾驶等下一代空间AI应用提供了基础数据。Spexi表示,这一技术将极大推动城市规划、虚拟现实等行业的创新。
令牌化技术在AI时代重新定义数据安全
随着数据泄露事件日益频繁,企业在最大化数据价值的同时,必须加强数据安全保护,特别是在AI快速发展的背景下。没有强有力的数据保护,企业可能会无意中将敏感数据暴露给AI模型,或在数据泄露后面临严重后果。因此,采用先进的数据保护技术变得至关重要,而令牌化技术成为其中一种有效的解决方案。
令牌化技术通过用格式保留的令牌替代敏感数据,帮助保护数据隐私,同时保持数据的实用性。Capital One在数据安全的多年来历程中,已经构建了一个令牌化引擎,并在多个应用中存储了数十亿条令牌化记录。令牌化能够将敏感数据元素(如信用卡号或社会安全号码)替换为随机生成的令牌,从而有效减少潜在网络攻击的影响范围,防止敏感数据泄露。
令牌化不仅能保护数据,还能避免AI模型接触敏感信息,从而防止数据泄漏。通过令牌化,授权用户仍能在环境中自由使用数据,而不会暴露敏感细节。这种技术与加密、访问控制等其他安全措施结合使用,能有效确保数据的安全性。
Capital One通过Databolt解决方案帮助企业实现大规模令牌化,保障敏感数据的安全,同时支持AI模型的开发与创新。
大语言模型迁移的隐性成本:并非“即插即用”
将一个大语言模型(LLM)替换为另一个,听起来应该很简单,毕竟它们都能理解“自然语言”,从GPT-4到Claude或Gemini的切换,似乎只需更换一个API密钥。然而,实际情况远比预期复杂。每个模型对提示词的解读和回应方式不同,这使得迁移过程中常常出现意外的问题,例如输出错误、令牌成本飙升或推理质量下降。
跨模型迁移中的隐藏复杂性,包括从令牌器的差异到响应结构、上下文窗口的表现等多方面因素。例如,Anthropic模型的令牌器往往将相同的文本拆解成比OpenAI模型更多的令牌,导致成本增加。不同模型处理提示词长度的方式也不尽相同,有些模型在较长的上下文下表现较差,而短文本的处理更为高效。
此外,不同模型在格式化的要求上也存在差异。例如,OpenAI的GPT-4偏好使用Markdown格式的提示,而Anthropic则更倾向于使用XML标签。这些微小的格式差异可能会显著影响模型的表现。
因此,迁移到新的LLM模型不仅是技术上的调整,还需要仔细的规划和测试。为应对这些挑战,Google、Microsoft和AWS等企业正在加大对模型编排和提示词管理工具的投资,帮助开发者平稳过渡并保持输出质量。