openAI开发者大会总结:自定义GPT发布,API升级多模态,成本进一步降低
?GPT自定义:GPT只需3分钟就可以创建自己的GPT。它可以专业地回答相关内容,并根据上传的内容向任何人开放。GPT开发人员可以生成各种定制的GPT,并像IOS开发人员一样通过这些GPT赚取利润。OpenAI还将在未来推出GPTS商店,帮助开发人员创造价值。
?多模态API升级:现有GPT-4 API升级为GPT-4 Turbo,新的6项更新包括:上下文窗口提高到128k(相当于300页书籍);更多的控制;多模态视觉,DALL-E 3.与语音API一起开放;GPT-微调开放;双倍GPTR-4调用速度限制开放。此外,新的Assistant API,包括检索、代码解释器等新功能。
?成本降低:GPT-4 Turbo输入降价到原来的1/3,为1美分每千token,输出降价到原来的1/2,为3美分每千token,不再设置上下文长度区分,统一128k,代码解释器按绘画次数收费,每次三美分,检索按容量和天数收费。
[玫瑰]GPT将拥有无限的个性,更强的能力&更低的成本,加速人工智能的商业化!
升级后,每个人都可以根据不同的场景和方向部署自己的专业GPT,未来每个人都可以通过自己定义的GPT赚取利润。API能力的持续升级也意味着开发者可以创造更强大的工具,结合更低的成本,加快人工智能的商业化。
?开启正循环,重视计算能力、计算能力/模型调优、应用等环节。
GPT商业化的加速发展对实现整个行业的商业模式具有重要意义。模型能力的提高和应用的大规模实施将给计算能力带来持续的需求升级。同时,在降低成本需求的同时,行业需求将转换为单位计算能力较高的产品,相应的优化水平需求将进一步突出。最后,关注人工智能应用创新带来的巨大市场。
?算力:英伟达、博通、arista、中际旭创、天孚通信、新易盛、腾景科技、源杰科技、盛科通信cohr、lite等;计算能力/模型调优:恒为科技、思特奇、中贝通信、中科金融、东方材料、博瑞数据、中科曙光等。
风险提示:人工智能发展低于预期;工业竞争加剧。
【中信前瞻】OpenAI开发者大会快速发布GPT Store和个人助手API,模型成本再次下降
————————
[庆祝]最近,OpenAI召开了第一次OpenAI发布会 在Devday上,OpenAI宣布,目前约有200万开发者使用GPT来改善500强中92%的工作流,每周有近1亿用户。并推出自定义版本的ChatGPT,升级GPT-4 GPT-4版本 Turbo,会议内容如下:
[庆祝][发布GPT平台GPT定制版] Store】
该平台是一个低代码编辑平台,用户可以创建自己的GPT,而无需编写代码。OpenAI现在为ChatGPT提供GPT示例 Plus 用户试用ChatGPT,包括AI图像生成App Canva AI自动化集成功能Zapier AI Actions。本月晚些时候,GPT商店GPT将推出 Store,为下载提供用户编写的程序。对于ChatGPT Plus,OpenAI表示,它的信息已经更新到今年4月,用户可以访问DALL,而无需在不同模型之间切换·E、浏览和做数据分析。用户还可以添加ChatGPT文件 搜索 PDF 以及其它类型的文档。
[发布Turbo版GPT 4】
GPT4 Turbo版本提供了128k的上下文窗口。信息更新到今年4月。与原GPT-4相比,Turbo版本的费用大幅下降。输入Token的费用为0.01美元,便宜三倍,输出Token的价格为0.03美元,便宜两倍。OpenAI同时更新了GPT-3.5,推出Turbo版默认支持16k上下文窗口GPT-3.5。输入Token和输出Token的费用分别是原版的三倍和两倍,价格分别是0.001 美元和0.002美元。
【发布AI AssistantsAPI助手 API】
Assistants API 它提供了代码解释器、检索和函数调用等新功能,可以处理开发人员必须完成的大量繁重工作,使开发人员能够构建高质量的人工智能应用程序。GPT-4平台增加了视觉和图像创建等新的多模态功能 (DALL·E 3) 并将文本转换为语音 (TTS)。在图像创建方面,OpenAI提供了不同的格式和质量选项,每个图像的起价为0.04美元。新TTS模型提供六种预设声音选择和两种模型变体:tts-1 和 tts-1-hd。前者优化实时用例,后者优化 优化质量。每输入1000 个字符起价0.015美元。
【财通计算机】OpenAI开启横向平台拓展,加快人工智能应用生态百花齐放
【太阳】事件:11月7日凌晨,OpenAI召开首届开发者大会,发布全新GPT-4 Turbo、ChatGPT更新版、GPTS产品并发布了Assistanttant 开发者工具,如API。
✅发布GPT-4 Turbo:
• 支持128k上下文长度:可容纳在单个提示中 300 多页文本;
• 更好的控制:新JSON Mode、function更新 控制工具,calling功能,调试模型;
• 知识更新截止日期:知识更新至2023年4月;
• 新模式:发布DALLE-3、GPT-3、TTS的API、开源Whisper 3;
• 定制模型:将微调服务扩展到gpt-3.5-16k,开启gpt-4微调实验访问项目;
• 更高的速度限制:所有gpt-4用户的tokens per minute增加了一倍;
• 更便宜的价格:gpt-4-turbo比gpt-4便宜2.75x,gpt-3.5-turbo 与之前的4k版本相比,16k也全面降价。
✅ChatGPT产品更新:
• 可调模块可自动选择ChatGPT,如browsing、plugins、dalle;
• GPT-3.5-turbo,默认支持16k上下文长度,改进指令跟踪,JSON模型,函数调用。
✅发布GPTS:
• GPTS是为特定目的定制的ChatGPT版本;
• Zapier现场演示、Canva、Code.使用org的案例;
• 介绍了如何用自然语言对话创建GPT;
• 介绍了GPT商店,允许用户公开分享他们创建的GPT、本月将推出与优秀创造者分享收入和商店。
✅发布Assistantant API(beta):
• Assistants API是OpenAI帮助开发人员在自己的应用程序中构建类似代理体验的第一步,无需代码就能创建高质量的助手;
• 发布的新工具包括代码解释器(Code Interpreter)、检索(Retrieval)以及函数调用(Function calling)。
最近,国内人工智能服务器市场最关注的消息之一是“阿里云A100服务器业务暂停租赁”,但这一消息尚未得到证实,但引起了市场的担忧。这也反映了国内计算能力短缺的无可争辩的事实。
在业内看来,计算能力资源的短缺确实催生了一个“好生意”,即计算能力租赁。在这条轨道上,不仅有中贝通信、云赛智联、恒威科技等传统IDC服务提供商参与,还有恒润、鸿博、莲花健康等跨境玩家。
市场预计,随着计算能力供需矛盾的升级,计算能力租赁可能进入新一轮的价格上涨周期。另一方面,在英伟达芯片控制的背景下,许多计算能力运营商正在寻找国内计算能力的替代机会。在业内看来,建立人工智能计算能力市场的“第二极”是唯一的途径,预计将加快解决“是否”和“是否容易使用”的问题。
涨价传递到租赁市场
最近,有消息称,由于计算能力需求强劲,供应紧张,阿里巴巴云官方网站暂停了A100服务器租赁业务。市场普遍猜测阿里巴巴云没有货物出租,但这一消息尚未得到证实。
国盛证券在一份研究报告中表示,随着拿卡难度的增加,计算能力运营商开始“抢单”,H800服务器的报价甚至上涨了300万/台。硬件成本的上升已经传递到计算能力租赁报价。
以中贝通信为例,公司于9月初签署了一份计算能力服务协议,显示其基于H800设备建立了计算能力服务平台,提供960P计算能力服务,服务费为12万元/税P/年。10月25日,该公司的另一份协议显示,其租赁能力为800P算力资源,租赁价格为2.5万美元/美元P/年(按当日汇率折算17.9万元)。
“对人工智能计算能力的需求非常强劲,大型互联网制造商开始选择租赁而不购买策略,这与之前大型互联网制造商建立的数据中心形成了鲜明的对比,导致租赁市场的繁荣继续上升,”一位国内领先的IDC制造商告诉记者。
但在他看来,供给失衡还有另一个因素。他还表示:“由于计算能力仍然侧重于资产投资,传统IDC制造商在这一轮扩张中参与较少。”。
例如,浙商证券在一份研究报告中,GPT-3训练使用128台英伟达A100服务器(训练34天),对应640P计算能力,GPT-4模型训练使用3125英伟达A100 服务器(训练90-100天)对应15625P计算能力。GPT-3到GPT-4模型的参数增加了10倍左右,但用于训练的GPU数量增加了近24倍。
因此,在该机构看来,国内15家大型头部模型制造商需要1920台A100/A800服务器和15360个GPU来满足GPT-3模型的培训需求。如果考虑到国内5家大型头部模型制造商对GPT-4模型的培训需求,则需要13705台A100/A800服务器,对应近11万台GPU。
但国内芯片获取渠道明显受阻。美国商务部工业和安全局(BIS)上周更新了《先进计算芯片和半导体制造设备出口管制规则》、H800等产品都受到影响。
增量空间有限
国盛证券认为,在短期内,计算能力供需将分阶段失衡,一些具有先发优势的公司有一定规模的计算能力储备,预计由于稀缺性,手工计算能力的价值将会增加。市场普遍认为,计算能力租赁预计将迎来一波“价格上涨潮”。
在二级市场,从10月底到11月初,计算能力租赁的概念已经恢复平静,个别股票已经下跌,甚至一度跌停。然而,在11月6日,这一概念再次集体上升。截至收盘时,中贝通信涨幅接近7%,瑞捷网络、优刻得、宏信电子也涨幅超过6%。
预计上海机构将于11月16日进行调查。
承风金平 20231107