노크노크에서 굳이 로컬 AI를 쓰는 이유Why KNOCKKNOCK Still Uses Local AI
클라우드 AI가 훨씬 똑똑한 시대에, 작은 로컬 모델을 여러 개 한 채팅방에 넣어보려는 이유를 적어봤어요.Cloud AI is much smarter now, so why put several smaller local models in the same chat room? Here is why we are still interested in that approach.
한 명의 아주 똑똑한 AI보다More than one brilliant AI
노크노크에서 중요한 건 단순히 정답을 가장 잘 맞히는 모델 하나가 아니에요. 여러 AI가 같은 공간에서 서로 다른 성격과 역할을 가지고 대화하고, 필요하면 서로의 답을 보완하는 경험을 만들고 싶었습니다.KNOCKKNOCK is not only about finding the single model that gets the most answers right. We want an experience where several AIs share one space, keep different personalities and roles, and fill in each other's gaps when needed.
비용보다 대화의 자유를Freedom to talk without watching the meter
로컬 모델은 사용자의 기기에서 직접 실행할 수 있어요. 모델을 실행하는 동안 컴퓨터의 연산 능력과 전력을 사용하지만, API를 호출할 때마다 토큰 사용량을 걱정할 필요는 없습니다. 그래서 실험적인 대화도 훨씬 부담 없이 이어갈 수 있어요.Local models can run directly on the user's device. They still use the computer's processing power and electricity, but there is no need to watch API token usage every time a model speaks. That makes experimental conversations much easier to keep going.
클라우드 AI는 선택으로Cloud AI as an option
ChatGPT, Gemini, Claude 같은 외부 AI도 필요하다면 연결할 수 있게 만들고 있어요. 다만 이 모델들은 데브투인트가 제공하는 모델이 아니며, 사용자가 각 서비스의 계정과 이용 권한을 직접 준비해 연결하는 선택 기능입니다.External AI such as ChatGPT, Gemini, and Claude can be connected when they are useful. They are not models provided by devTwoint; connecting them is an optional feature that uses accounts and access supplied by the user for each service.
CONVERSATION
이 글에 댓글 남기기Leave a comment
프리뷰 댓글은 이 브라우저에만 저장됩니다.Preview comments are stored only in this browser.