【CNMO科技动静】近日，OpenAI公布已经将其最新AI模子GPT-5.6 Sol投入真实出产情况，用在优化GPT-5.6系列自身的推理基础举措措施。颠末一系列自立优化操作，OpenAI的推理办事部署成本年夜降20%，Token天生效率晋升了15%以上。

ChatGPT

于内核优化方面，GPT-5.6 Sol经由过程Codex东西，自立改写了出产情况中的GPU底层代码。它进修了Triton及Gluon两种开源编程语言，能辨认模子中哪些计较可以提早做、哪些可以省略、哪些可以并行处置惩罚，并据此优化代码，让运行更高效。此外，该模子还有能智能阐发负载并主动调配算力资源。

据CNMO科技相识，该模子还有改良了推测解码技能，即小模子预天生、年夜模子校验的并行事情机制。它自立设计并完成为了数百组比照试验，于小模子范围、收集布局及功效模块等方面连续优化，终极使总体天生效率晋升跨越15%。

于这些优化配合作用、终极于不转变模子焦点权重、仍由人类工程师掌控终极决议计划权的条件下，OpenAI实现了推理办事部署成本年夜降20%。

总体来看，GPT-5.6 Sol的自我优化已经开端验证了一条可行路径：让AI来优化AI自己。跟着这一机制的不停成熟，推理成本的降落及效率的晋升有望进一步加快。

版权所有，未经许可不患上转载