钓友宝 (微信小程序):一款专门为 钓友 开发的 免费的 分享钓点地图与实时天气的软件,地图中标记了所有野钓、钓场、公共水域等的精确位置,支持导航、 预测钓鱼位置的鱼情 等功能。
一、国内支持SDK调用的优秀开源AI平台
智谱AI(ZhipuAI):智谱AI是一家专注于大模型技术的公司,由清华大学计算机系知识工程实验室技术成果转化而来。智谱AI提供了包括对话模型、视觉模型、代码生成模型等多种AI模型,并提供了开放平台供开发者使用和集成。智谱AI的SDK可以用于快速集成其AI能力,如对话、图像识别等功能。
百度飞桨(PaddlePaddle):百度飞桨是中国首个开源深度学习平台,提供丰富的API和SDK,支持多种深度学习模型的开发和部署。
腾讯AI Lab:腾讯AI Lab提供了多种AI技术和服务,包括计算机视觉、语音识别、自然语言处理等领域的SDK和API。
阿里云机器学习平台PAI:阿里云提供的机器学习平台PAI支持多种机器学习算法和模型,提供了SDK供开发者调用。
华为ModelArts:华为云ModelArts是一个全流程模型生产服务,提供丰富的API和SDK,支持模型的训练、部署和管理。
注释:本文以智谱AI为例,其他开源AI平台同理
二、导入依赖
cn.bigmodel.openapi groupId>
oapi-java-sdk artifactId>
release-V4-2.3.0 version> dependency>
三、获取API key(注意保密)
官网的个人中心,找到项目管理下的API keys。
四、测试Demo
测试是否调用AI成功,注意API key要换成自己的。
@SpringBootTest
public class ZhiPuAiTest {
@Test
public void test() {
String apiKey = "自己的apikey";
// 创建客户端
ClientV4 client = new ClientV4.Builder(apiKey).build();
// 构造请求
List
messages = new ArrayList<>(); ChatMessage chatMessage = new ChatMessage(ChatMessageRole.USER.value(), "作为一名营销专家,请为智谱开放平台创作一个吸引人的slogan"); messages.add(chatMessage); String requestId = String.valueOf(System.currentTimeMillis()); ChatCompletionRequest chatCompletionRequest = ChatCompletionRequest.builder() .model(Constants.ModelChatGLM4) .stream(Boolean.FALSE) .invokeMethod(Constants.invokeMethod) .messages(messages) .requestId(requestId) .build(); // 调用 ModelApiResponse invokeModelApiResp = client.invokeModelApi(chatCompletionRequest); System.out.println( "model output:" + invokeModelApiResp.getMsg()); } }五、封装通用AI模块
application.yml配置API key
# ai 配置
ai:
api-key: 自己的key定义AI配置类
@Configuration
@ConfigurationProperties(prefix = "ai")
@Data
public class AiConfig {
/** * apiKey */
private String apiKey;
@Bean
public ClientV4 getClientV4() {
return new ClientV4.Builder(apiKey).build();
}
}封装通用的AI请求模块
AiManager类提供了多种方法来执行同步和流式请求,包括稳定和不稳定答案的同步请求,以及可以根据随机数温度参数自定义的同步请求。这些方法允许以简化的方式传递系统和用户消息,或者直接传递一个消息列表。
/** * 通用 AI 调用能力 */
@Component
public class AiManager {
@Resource
private ClientV4 clientV4;
// 稳定的随机数
private static final float STABLE_TEMPERATURE = 0.05f;
// 不稳定的随机数
private static final float UNSTABLE_TEMPERATURE = 0.99f;
/** * 同步请求(答案不稳定) * * @param systemMessage * @param userMessage * @return */
public String doSyncUnstableRequest(String systemMessage, String userMessage) {
return doRequest(systemMessage, userMessage, Boolean.FALSE, UNSTABLE_TEMPERATURE);
}
/** * 同步请求(答案较稳定) * * @param systemMessage * @param userMessage * @return */
public String doSyncStableRequest(String systemMessage, String userMessage) {
return doRequest(systemMessage, userMessage, Boolean.FALSE, STABLE_TEMPERATURE);
}
/** * 同步请求 * * @param systemMessage * @param userMessage * @param temperature * @return */
public String doSyncRequest(String systemMessage, String userMessage, Float temperature) {
return doRequest(systemMessage, userMessage, Boolean.FALSE, temperature);
}
/** * 通用请求(简化消息传递) * * @param systemMessage * @param userMessage * @param stream * @param temperature * @return */
public String doRequest(String systemMessage, String userMessage, Boolean stream, Float temperature) {
List
chatMessageList = new ArrayList<>(); ChatMessage systemChatMessage = new ChatMessage(ChatMessageRole.SYSTEM.value(), systemMessage); chatMessageList.add(systemChatMessage); ChatMessage userChatMessage = new ChatMessage(ChatMessageRole.USER.value(), userMessage); chatMessageList.add(userChatMessage); return doRequest(chatMessageList, stream, temperature); } /** * 通用请求 * * @param messages * @param stream * @param temperature * @return */ public String doRequest(List messages, Boolean stream, Float temperature) { // 构建请求 ChatCompletionRequest chatCompletionRequest = ChatCompletionRequest.builder() .model(Constants.ModelChatGLM4) .stream(stream) .temperature(temperature) .invokeMethod(Constants.invokeMethod) .messages(messages) .build(); try { ModelApiResponse invokeModelApiResp = clientV4.invokeModelApi(chatCompletionRequest); return invokeModelApiResp.getData().getChoices().get( 0).toString(); } catch (Exception e) { e.printStackTrace(); throw new BusinessException(ErrorCode.SYSTEM_ERROR, e.getMessage()); } } /** * 通用流式请求(简化消息传递) * * @param systemMessage * @param userMessage * @param temperature * @return */ public Flowable doStreamRequest (String systemMessage, String userMessage, Float temperature) { List chatMessageList = new ArrayList<>(); ChatMessage systemChatMessage = new ChatMessage(ChatMessageRole.SYSTEM.value(), systemMessage); chatMessageList.add(systemChatMessage); ChatMessage userChatMessage = new ChatMessage(ChatMessageRole.USER.value(), userMessage); chatMessageList.add(userChatMessage); return doStreamRequest(chatMessageList, temperature); } /** * 通用流式请求 * * @param messages * @param temperature * @return */ public Flowable doStreamRequest (List messages, Float temperature) { // 构建请求 ChatCompletionRequest chatCompletionRequest = ChatCompletionRequest.builder() .model(Constants.ModelChatGLM4) .stream(Boolean.TRUE) .temperature(temperature) .invokeMethod(Constants.invokeMethod) .messages(messages) .build(); try { ModelApiResponse invokeModelApiResp = clientV4.invokeModelApi(chatCompletionRequest); return invokeModelApiResp.getFlowable(); } catch (Exception e) { e.printStackTrace(); throw new BusinessException(ErrorCode.SYSTEM_ERROR, e.getMessage()); } } }六、使用AI赋能项目
1. 设计Prompt的常用技巧
Prompt是一种向语言模型提供输入的方法,它通过特定的提示或指令引导模型生成预期的输出。在自然语言处理中,简而言之,Prompt是一种高效利用语言模型能力的技术手段。
技巧一:定义 System Prompt
用于设定AI助手行为模式的工具,包括角色设定、语言风格、任务模式和针对特定问题的具体行为指导。
示例:
你擅长从文本中提取关键信息,精确、数据驱动,重点突出关键信息,根据用户提供的文本片段提取关键数据和事实,将提取的信息以清晰的 JSON 格式呈现。
技巧二:让AI进行角色扮演
让 AI 扮演角色、可以更准确地模仿该角色的行为和对话方式。
示例:
作为一个量子物理学家,解释量子物理学的基本原理,并简要介绍其在现代科技中的应用。
技巧三:提供具体的细节要求
在 Prompt 中添加要求模型输出内容的细节和背景信息。
示例:
我对太阳系的行星非常感兴趣,特别是土星。请提供关于土星的基本信息,包括其大小、组成、环系统和任何独特的天文现象。
技巧四:使用分隔符标示不同的输入部分
示例:
请基于以下内容: """ 要总结的文章内容""" 提炼核心观点和纲要
技巧五:思维链提示
要求模型分步骤解答问题,还要求其展示其推理过程的每个步骤。通过这种方式,可以减少不准确结果的可能性,并使用户更容易评估模型的响应。
示例:
作为一个 AI 助手,你的任务是帮助用户解决复杂的数学问题。对于每个问题,你需要首先独立解决它,然后比较和评估用户的答案,并最终提供反馈。在这个过程中,请展示你的每一步推理过程。我有一个数学问题需要帮助:"""问题是:一个农场有鸡和牛共 35 头,脚总共有 94 只。鸡和牛各有多少头?我的答案是鸡有 23 头,牛有 12 头"""。
技巧六:少样本学习
可以作为进行少样本学习的示例。这些样本可以用来引导模型模仿特定的行为和语言风格。
模仿这种风格 ''' 1、三杯鸡在锅中欢跃,是岁月的篝火,是浪漫的乐章。 2、炖排骨的滋味,是冬日的棉被,是乡土的回响。 3、红烧勤鱼的鲜香,是海洋的密语,是大海的情书。''' 生成新的句子。
2. 项目中调用AI(实战)
定义Prompt常量
参考上文设计Prompt的常用技巧,根据自己的业务需求设计Prompt,示例代码是需要AI生成问卷题目,仅供参考。
// AI Prompt
private static final String GENERATE_QUESTION_SYSTEM_MESSAGE = "你是一位严谨的出题专家,我会给你如下信息:\n" +
"```\n" +
"应用名称,\n" +
"【【【应用描述】】】,\n" +
"应用类别,\n" +
"要生成的题目数,\n" +
"每个题目的选项数\n" +
"```\n" +
"\n" +
"请你根据上述信息,按照以下步骤来出题:\n" +
"1. 要求:题目和选项尽可能地短,题目不要包含序号,每题的选项数以我提供的为主,题目不能重复\n" +
"2. 严格按照下面的 json 格式输出题目和选项\n" +
"```\n" +
"[{\"options\":[{\"value\":\"选项内容\",\"key\":\"A\"},{\"value\":\"\",\"key\":\"B\"}],\"title\":\"题目标题\"}]\n" +
"```\n" +
"title 是题目,options 是选项,每个选项的 key 按照英文字母序(比如 A、B、C、D)以此类推,value 是选项内容\n" +
"3. 检查题目是否包含序号,若包含序号则去除序号\n" +
"4. 返回的题目列表格式必须为 JSON 数组";业务逻辑中调用AI
调用AI,使用定义好的Prompt生成题目
// AI 生成
String result = aiManager.doSyncRequest(GENERATE_QUESTION_SYSTEM_MESSAGE, userMessage, null);完整代码
/**
* 生成题目的用户消息
*
* @param app
* @param questionNumber
* @param optionNumber
* @return
*/
private String getGenerateQuestionUserMessage(App app, int questionNumber, int optionNumber) {
StringBuilder userMessage = new StringBuilder();
userMessage.append(app.getAppName()).append( "\n");
userMessage.append(app.getAppDesc()).append( "\n");
userMessage.append(AppTypeEnum.getEnumByValue(app.getAppType()).getText() + "类").append( "\n");
userMessage.append(questionNumber).append( "\n");
userMessage.append(optionNumber);
return userMessage.toString();
}
@PostMapping( "/ai_generate")
public BaseResponse > aiGenerateQuestion(
@RequestBody AiGenerateQuestionRequest aiGenerateQuestionRequest) {
ThrowUtils.throwIf(aiGenerateQuestionRequest == null, ErrorCode.PARAMS_ERROR);
// 获取参数
Long appId = aiGenerateQuestionRequest.getAppId();
int questionNumber = aiGenerateQuestionRequest.getQuestionNumber();
int optionNumber = aiGenerateQuestionRequest.getOptionNumber();
// 获取应用信息
App app = appService.getById(appId);
ThrowUtils.throwIf(app == null, ErrorCode.NOT_FOUND_ERROR);
// 封装 Prompt
String userMessage = getGenerateQuestionUserMessage(app, questionNumber, optionNumber);
// AI 生成
String result = aiManager.doSyncRequest(GENERATE_QUESTION_SYSTEM_MESSAGE, userMessage, null);
// 截取需要的 JSON 信息
int start = result.indexOf( "[");
int end = result.lastIndexOf( "]");
String json = result.substring(start, end + 1);
List questionContentDTOList = JSONUtil.toList(json, QuestionContentDTO .class);
return ResultUtils.success(questionContentDTOList);
插播一下 Java精选面试题 (微信小程序):5000+道面试题和选择题,包含Java基础、并发、JVM、线程、MQ系列、Redis、Spring系列、Elasticsearch、Docker、K8s、Flink、Spark、架构设计、大厂真题等,在线随时刷题!
作者:hrhcode https://blog.csdn.net/hrh1234h/article/details/144217621
公众号“Java精选”所发表内容注明来源的,版权归原出处所有(无法查证版权的或者未注明出处的均来自网络,系转载,转载的目的在于传递更多信息,版权属于原作者。如有侵权,请联系,笔者会第一时间删除处理!
最近有很多人问,有没有读者交流群!加入方式很简单,公众号Java精选,回复“加群”,即可入群!
特别推荐:专注分享最前沿的技术与资讯,为弯道超车做好准备及各种开源项目与高效率软件的公众号,「大咖笔记」,专注挖掘好东西,非常值得大家关注。点击下方公众号卡片关注。
文章有帮助的话,点在看,转发吧!
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.