2 min read
AI(LLM) 프로젝트의 이상한 어려움

개요

요새 여러 AI 프로젝트를 진행하고 있다. OpenAI, Gemini, Claude 세개를 주로 사용하며 언어는 Typescript, Java, Python으로 하고 있다.

AI 프로젝트라고 말하지만 사실상 API 호출이다. API 호출이야, 우리같은 개발자들에게는 매일하는 문서만 잘 읽으면 되는 단순한(가끔 단순하지 않은 경우가 있지만… 가끔이 아닌가?) 업무인데. API를 호출하면 되는건데 왜 생각만큼 쉽게 되지 않는 것인지 스스로에 대한 답답함이 있다.

그걸 조금씩 적어본다. API 호출이 원래 간단한건데, 내가 못하는건지 아니면 원래 복잡한건지 글로 써보고 판단해본다.

문서

  • API 동작이 문서와 다름
  • 생각보다 굉장히 복잡함
  • API는 금방 사라지기도 그렇지 않기도 함
  • 논리적이지 않음
    • OpenAI thread, conversation API는 여러 기능을 제공하는데 왜 thread list, conversation list는 없을까?

데이터 모으기

  • NotebookLM
  • Retool
  • 이걸 API로?

도메인 전문가와의 간극

  • NotebookLM은 이렇게 하면 되던데
    • 그거 그대로 못쓰냐

답답함

SDK 특성들

ai.sdk, generative sdk(genai sdk), openai sdk, langchain, spring ai