黄仁勋:“在19世纪90年代末期,尼古拉·特斯拉发明了交流发电机,而 NVIDIA 现在发明了AI发电机。交流发电机生成电子;AI发电机生成的是Token,这两样东西都有巨大的市场机会,Token几乎可以应用于每个行业,这就是为什么这是一场新的工业革命”。
大模型 API 是什么
API 就是传输 token 的接口,无论是大模型厂商、云计算平台,还是开源、闭源模型,他们可能不会直接提供 ChatBot 对话助手,但都会提供其模型 API。
像 Huggingface、魔搭这样的开源模型托管平台,提供了数万个大模型,有大模型厂商开源的,也有组织、个人微调过的,而且大多都支持免费调用推理 API,无需部署算力、托管服务器。
API 一端连接着 AI 大模型服务,另一端则开放给用户。用户想要接入并使用这些模型的功能,只需将 API 集成到各种应用程序中,输入的内容传输到后端的大模型服务,经处理后,结果再返回给应用,完成一次 API 调用。
相比于对话框式的 AI 助手,API 推理更加灵活,它可以集成在自己开发的应用中,如果你没有深厚的编程能力,也能利用各种开源应用和插件,大大降低使用 AI 的摩擦力。
AI 完全可以充当个人助理,我在谁在用 AI 中论述,当前 AI 产品使用现状,很多人用不起来,不是因为不会写 Prompt,也不是因为找不到适合自己 Agent,最重要的是如何和业务结合,让 AI 在你的数字空间无处不在。
现在,通过大模型 API 集成应用,就可以做到让你的数字世界有一个随处可见的 AI 精灵。
比如使用 chatbox 这个 mac 客户端,我集成了 deepseek 的大模型,flux 的图像生成,基本上做到了 GPT4 的平替,并且 API 成本足够低,现在平台赠送的 token 还没有花完。
再比如使用 chatgptbox 这个浏览器插件,做到了 Monica 的平替,在飞书里可以续写,在 flomo 里可以碰撞自己的想法。
再高级一点是使用 dify 和快捷指令,可以自动化工作流,比如可以搭建一个 RSS 阅读器,每天为自己总结我所关注的博主的文章,提取出创作灵感。
总结来说,使用 API 推理还有以下好处:
所以,如果想要用好 AI ,不说用它去创作副业,就只是节省你的工作时间,提前下班,或者享受摸鱼的快乐,就可以尽早的用上大模型 API,
我会在本篇文章分享有哪些 API 可在国内免费使用,在文末分享数十种,你或许用得上的应用。
这篇文章依旧顺应**“用好 AI”**的宗旨,不炒概念,不谈未来,就只是谈谈如何把 AI 用好。
产品 | 是否免费 | 网址 |
---|---|---|
云计算厂商 | ||
阿里云百炼 | https://bailian.console.aliyun.com/ | |
百度千帆 | https://console.bce.baidu.com/qianfan/overview | |
始智 | ✅ | https://www.wisemodel.cn/home |
启智 | ✅ | https://openi.pcl.ac.cn/explore/datasets |
无问芯穹 | ✅ | https://cloud.infini-ai.com/platform/ai |
硅基流动 | ✅ | http://siliconflow.cn |
魔搭 | ✅ | https://www.modelscope.cn/home |
揽睿星舟 | https://www.lanrui-ai.com/ | |
大模型厂商 | 是否有赠送额度 | |
百川(Baichuan) | ✅ | https://platform.baichuan-ai.com/console/apikey |
深度求索(DeepSeek) | ✅ | https://platform.deepseek.com/api_keys |
智谱(GLM) | ✅ | https://bigmodel.cn/usercenter/apikeys |
MiniMax | ✅ | https://platform.minimaxi.com/ |
月之暗面(Moonshot) | ✅ | https://platform.moonshot.cn/console/api-keys |
通义(Qwen) | https://dashscope.console.aliyun.com/apiKey | |
讯飞星火(Spark) | https://console.xfyun.cn/ | |
阶跃星辰(Stepfun) | https://platform.stepfun.com/interface-key | |
文心一言(ERNIE) |
点击链接,可直接获取大模型的 API key, 对于一些应用,内部已经集成了 API 地址,只需输入你的 API key 就可以请求,比如 opencat 这款对话助手
那么对于大部分没有集成 API 提供商的应用,来看看如何使用 API ,
模型
模型 LLM 是由数据集训练而成的,模型有数据集、版本和类型的区别
Token
文本生成模型处理文本时,是以 Token 作为基本单位的。Token 通常指的是文本中常见的字符或字符序列。
比如,一个复杂的汉字“龘”可能会被拆分成几个 Token,而像“你好”这样常用且简短的词语则可能直接作为一个 Token 来处理。一般来说,对于普通的中文文本,一个 Token 大约对应 1.5 到 2 个汉字。
API 参数
不同类别、不同模型的参数都不一样,参数可以调节控制模型的输出结果,最常见的参数有
登录模型平台后,拿到以下三样信息:
以 kimi 大模型为例,登录 kimi 的开放平台
在接口文档中就能看到对话类型的 API 地址: https://api.moonshot.cn/v1/chat/completions
API key 是请求服务时,验证自己身份的密钥,对于各大模型平台,登录成功后,在账号的控制台下就能看到