Skip to main content

大模型 API

1024Code 开放了使用的底层大模型的API接口供平台用户调用,您可以使用此 API 接口在 1024Code 上直接开发好玩和有趣的 AI 应用。

1024Code 为每个代码空间的 IDE 容器环境动态设置和注入了环境变量 LLM_API_KEYLLM_API_BASE,用户可以通过这两个环境变量来调用 大模型API

每位用户拥有 100 次的免费调用次数,用完后可联系运营人员申请更多免费调用次数(积分)。

  • 协作调试或临时访问时,将使用代码空间的所有者的配额。
  • 发布到社区访问时,将使用当前登录用户的配额。

基于模版创建 AI 应用

在工作台点击新建按钮,选择使用模版创建代码空间,查看更多模版,选择社区发布的 AI 应用模版,如 Node.js AI 应用模版、Python AI应用模版:

截图

以 Node.js AI 应用模版为例,使用模版创建代码空间后,我们可以通过下方步骤创建一个 AI 应用:

阅读程序代码

见文件:/pages/api/generate.js/pages/index.js/pages/index.module.css

重点关注 API 的调用逻辑:

// /pages/api/generate.js
const configuration = new Configuration({
apiKey: process.env.LLM_API_KEY, // 使用环境变量 LLM_API_KEY
basePath: process.env.LLM_API_BASE, // 指定请求地址,使用环境变量 LLM_API_BASE
});

// ...

function generatePrompt(animal) {
const capitalizedAnimal =
animal[0].toUpperCase() + animal.slice(1).toLowerCase();
// 根据动物生成请求消息
const messageContent = `为一种超级英雄动物提供三个名字的建议。

动物:猫
名字:Captain Sharpclaw,Agent Fluffball,The Incredible Feline
动物:狗
名字:Ruff the Protector,Wonder Canine,Sir Barks-a-Lot
动物:${capitalizedAnimal}
名字:`;
// 创建并返回传递给API的对象
const promtOBJ = {
model: "gpt-3.5-turbo",
messages: [{role: "user", content: messageContent}],
max_tokens: 1000,
temperature: 0.6
}
return promtOBJ;
};

// /pages/index.js
async function onSubmit(event) {
event.preventDefault(); // 阻止表单的默认提交行为
try {
const response = await fetch("/api/generate", { // 发起POST请求到指定的API端点
method: "POST",
headers: {
"Content-Type": "application/json",
},
body: JSON.stringify({ animal: animalInput }), // 将用户输入的动物名称作为请求的主体
});

修改代码

IDE 文件树内新增/删除文件、在编辑器内编辑文件。

注意:通过环境变量使用 1024Code 平台生成的 API Key 和请求地址

const configuration = new Configuration({
apiKey: process.env.LLM_API_KEY, // 使用环境变量 LLM_API_KEY
basePath: process.env.LLM_API_BASE, // 指定请求地址,使用环境变量 LLM_API_BASE
});

安装依赖

在终端 shell 中 npm install 包名,或者修改 package.json在 "dependencies" 中添加相关依赖后执行:

$ npm install

运行应用程序

点击运行按钮运行应用程序,运行前确保运行命令配置正确(如:npm run dev),并指定了8080端口(-p 8080),如:

// /package.json
// ...
"scripts": {
"dev": "next dev -p 8080",
"build": "next build",
"start": "next start"
//...

Fork 社区 AI 应用改造

在社区推荐页面或者AI应用主题页面,选择感兴趣的社区 AI 应用,Fork 到自己的工作台后改造,改造步骤同“基于模版创建 AI 应用”:

forkaiyingyong

分享您的 AI 应用到社区

发布代码空间到社区,和社区用户分享你的 AI 应用:

publishcodecubes

查看社区已有的 AI 应用

查看社区已有 AI 应用,点击社区推荐页面的 AI 应用主题,前往AI应用主题页面,查看其他用户分享发布到社区的 AI 应用。

前往查看:AI 应用主题