티스토리 뷰

language/java

java로 chatGPT 실행시키기

kirinman 2023. 3. 16. 17:37

시작 전

정말 단순하게 chat gpt api를 사용하는 것 뿐이니, 이 글이 아니라 공식 document를 보셔도 좋습니다.


여러 방면으로 활용할 수도 있는데, 일단 간단하게만 해 보겠습니다.

 

그리고 무지막지하게 쓰면 과금이 될 수 있습니다.

근데 뭐 사실 아래 코드에서 돈나오게 쓰는 것도 힘들긴 합니다.

 

다만 이걸 활용해서 자동 응답과 같은 기능을 만든다고 했을때는 꼭 usage를 확인하시면서 사용해야 할 겁니다.

 

결과물

- API key 발급받기

 

openAi로 이동해 api key를 발급받습니다.

 

-의존성 추가

 

아래의 의존성을 추가해 줍니다.

implementation 'com.theokanning.openai-gpt3-java:client:0.11.1'
implementation 'com.theokanning.openai-gpt3-java:api:0.11.1'

rf.

아래 링크를 통해 자바에서 손쉽게 커스터마이징 할 수 있는 라이브러리를 사용했습니다.

세부내용은 아래 링크들에서 확인할 수 있습니다.

 

https://platform.openai.com/docs/libraries/node-js-library

 

OpenAI API

An API for accessing new AI models developed by OpenAI

platform.openai.com

https://github.com/TheoKanning/openai-java

 

GitHub - TheoKanning/openai-java: OpenAI GPT-3 Api Client in Java

OpenAI GPT-3 Api Client in Java. Contribute to TheoKanning/openai-java development by creating an account on GitHub.

github.com

 

-코드 추가

 

아래와 같이 코드를 작성합니다.

(지금은 chatCompletion을 사용하는데, 작성된 문자열에서 오탈자를 검사해주는 editRequest도 사용할 수 있었습니다.)

public class RunGPT {
    public static void main(String[] args) {


        OpenAiService service = new OpenAiService("발급받은 api 키를 입력해 주세요", Duration.ZERO);

        final List<ChatMessage> messages = new ArrayList<>();
        final ChatMessage systemMessage = new ChatMessage(ChatMessageRole.USER.value(),


                "tell me about yourself"


        );
        messages.add(systemMessage);

        ChatCompletionRequest chatCompletionRequest = ChatCompletionRequest
                .builder()
                .model("gpt-3.5-turbo")
                .messages(messages)
                .build();

        ChatCompletionChoice chatCompletionChoice = service.createChatCompletion(chatCompletionRequest).getChoices().get(0);
        System.out.println("here's answer: \n" +chatCompletionChoice.getMessage().getContent());
        System.out.println("==============================================");

    }
}

 

 

 

설정이 필요한 부분만 보자면,

 

OpenAiService service = new OpenAiService("발급받은 api 키를 입력해 주세요", Duration.ZERO);

api를 쉽게 사용할 수 있게 해주는 객체입니다. Druration.Zero는 답변 작성이 오래 걸릴 수도 있으니 timeout을 없도록 해 주는 설정입니다.

 

model("gpt-3.5-turbo")

gpt 모델을 설정합니다. 각 모델에 따라서 성능이나 과금에 영향이 있을 수 있으니, 아래 링크를 참고해서 선택하시면 됩니다.
적용이 되지 않는 것도 있으니 확인이 필요합니다.

https://platform.openai.com/docs/models/gpt-3-5

 

-여러 메시지 보낼때

현재 질문을 messages라는 list에 담아서 요청하고 있습니다.

해당 리스트에 질문을 여러개를 넣어 답변을 받고자 한다면, 

 

아래 코드를 적당히 수정하면 됩니다.

지금은 질문을 하나만 보내는 것을 생각해 둬서 0번째 답변만을 가져오고, 해당 메시지 content만을 출력하고 있는 상태입니다.

ChatCompletionChoice chatCompletionChoice = service.createChatCompletion(chatCompletionRequest).getChoices().get(0);

 

 

위처럼 작성할 수도 있을 것 같습니다. 다만 이러면 답변이 좀 지저분해 지니 for each 찍을때 getMessage.getContent를 추가해 주면 좀 더 깔끔하게 답변만 출력할 수 있습니다.



Reference.

https://platform.openai.com/docs/api-reference/chat/create

 

OpenAI API

An API for accessing new AI models developed by OpenAI

platform.openai.com

https://platform.openai.com/docs/guides/chat

 

OpenAI API

An API for accessing new AI models developed by OpenAI

platform.openai.com

https://platform.openai.com/docs/models/gpt-3-5

 

OpenAI API

An API for accessing new AI models developed by OpenAI

platform.openai.com

https://github.com/TheoKanning/openai-java

 

GitHub - TheoKanning/openai-java: OpenAI GPT-3 Api Client in Java

OpenAI GPT-3 Api Client in Java. Contribute to TheoKanning/openai-java development by creating an account on GitHub.

github.com

 

댓글