[NCE-AI] CLOVA Studio와 RAG

RAG 구성 시 활용되는 CLOVA Studio API

익스플로러 도구

Studio에서 유용하게 활용할 수 있는 특화 도구 및 API

플레이그라운드

프롬프트를 입력해 원하는 형태를 출력하고, 조율한 값을 기반으로 API 생성

ChatClovaX

CLOVA Studio 플레이그라운드 메뉴의 챗 모드 모델

클로바 스튜디오의 Chat completion API를 활용할 수 있음

from langchain_community.chat_models import ChatClovaX

chat = ChatClovaX(
    model = "HCX-003"
)

message = [
  (
    "system",
    "CLOVA Studio는 HyperCLOVA X 언어 모델을 활용하여 AI 서비스를 손쉽게 만들 수 있는 개발 도구입니다.",
  ),
  ( "human", "CLOVA Studio가 무엇인가요?"),
]

ai_msg = chat.invoke(messages)
ai_msg

for chunk in chat.stream(messages):
    print(chunk.content, end="", flush=True)

invoke를 통해 언어 모델 호출
또는 stream 형식으로도 가능
- 언어 모델이 결과값을 만들어낼 때, chunk 단위로 스트림 되어 나올 수 있도록 구성

ClovaXEmbeddings

CLOVA Studio 익스플로러 메뉴의 임베딩(또는 임베딩 v2) 도구

from langchain_community.embeddings import ClovaXEmbeddings

embeddings = ClovaXEmbeddings(
          model = "clir-emb-dolphin"
)

model 파라미터
- 익스플로러 메뉴의 임베딩 (임베딩 v2 모델)
- clir-emb-dolphin (기본값)
- clir-sts-dolphin
- bge-m3

query = "CLOVA Studio는 HyperCLOVA X 언어 모델을 활용하여 AI 서비스를 손쉽게 만들 수 있는 개발 도구입니다."
single_vector = embeddings.embed_query(query)

text1 = "CLOVA Studio는 HyperCLOVA X 언어 모델을 활용하여 AI 서비스를 손쉽게 만들 수 있는 개발 도구입니다."
text2 = "LangChain은 언어 모델 기반 어플리케이션 개발을 지원하는 오픈소스 프레임워크입니다."
multiple_vector = embeddings.embed_documents(document)

Reference

CLOVA Studio를 활용한 RAG 구성

네이버 비즈니스 스쿨

https://bizschool.naver.com/online/course/65263/lecture/1462216

랭체인과 CLOVA Studio

네이버 비즈니스 스쿨

https://bizschool.naver.com/online/course/65288/lecture/1462273