ChatGPTOpenAI
近来,OpenAI所取得的成就让世界大吃一惊。该公司推出了基于人工智能的聊天机器人ChatGPT,这使得交互式对话成为可能。ChatGPT令人翘首以待的一个特点就是其更加符合人类思考模式的回答。OpenAI已经将它免费提供给公众体验,虽然每个人都可以免费访问ChatGPT,但OpenAI需要承担沉重的负担以使ChatGPT保持正常运行。
网民们很快就找到了有关OpenAI必须承担的足以保障ChatGPT正常运行的机器开销成本。关于开发和运行这样一个人工智能服务的开销令人震惊,例如,运行ChatGPT的成本是每天10万美元。根据多个消息来源,ChatGPT托管在微软的Azure云上,这样OpenAI就省去了对自己购买物理机的投资开销。而考虑到微软Azure云目前的价格,每个A100GPU每小时为3美元,每个在ChatGPT上生成的单词的成本为0。0003美元,至少有8个GPU用于操作单个ChatGPT。因此,考虑到ChatGPT生成回复的平均单词长度是30,OpenAI公司将花费近1美分。通过这样的估算,OpenAI每天可能至少花费10万美元或每月300万美元的运行成本。
另一个消息来源声称,单个NVIDIAA100GPU可以在约6毫秒内运行30亿参数模型。以这个速度作为参考点,单个NVIDIAA100GPU需要花费350毫秒才能在ChatGPT上输出一个单词。由于最新版本的ChatGPT3。5有超过1750亿个参数,它将需要大约5个A100GPU来执行必要的操作,以获得单个查询的输出。由于考虑到ChatGPT每秒输出约1520个单词的能力,因此平均至少需要8个A100GPU,这么高额的计算成本令人惊叹。
从编写复杂的Python代码到按需撰写专业级别的文章,只要人类...
(全文)