코드 인터프리터를 무제한으로 사용해보자

코드 인터프리터 (code interpreter). 작업을 요청하면, 해당 작업을 수행하기 위한 코드를 작성하고, 이를 실행해서 결과물을 제공한다. 챗GPT 유료 사용자에게 제공되던 기능인데, 챗GPT에서는 써보지 못했음. 그런데 강의를 듣던 중 아마존 bedrock에서 제공된다는 것을 알게됨. 그래서 혹시 ollama로도 코드 인터프리터를 구동시킬 수 있는지 찾아보던 중 알게된 라이브러리 open-interpreter.

 

아래 링크에 들어가면 ollama와 연동해서 사용하는 방법이 소개되어있음. jupyter notebook에서 사용하도록 구현되어 있는 듯. 내가 작업을 요청하면 python 코드를 작성하고, 결과물을 제공한다. 그래서 다른 일 하면서도 코딩이 가능해졌다. (...) 잡일이 많은데, 잡일을 하면서 내가 원하는 분석을 할 수 있다. 물론 내가 직접 처리하면 더 빠르지만, 문제는 내가 집중해서 처리할 시간이 부족하다는 것. 그래서 interpreter에게 작업을 요청해두고, 나는 다른 일을 할 수 있다. 그래서 편하다.

https://docs.openinterpreter.com/language-models/local-models/ollama

Ollama - Open Interpreter

 

huggingface도 연동해서 쓸 수 있다. ollama로만 테스트해봤고, 아직 huggingface와 연결해서 써보지는 않았음. 한번 사용해보고난 뒤에 꽤 만족스러웠고, 오픈 언어 모델 성능이 괜찮다면 쓸만한 것 같다. phi4, gemma3 정도로만 테스트 해봤다. GPU는 있어야 좀 원활하게 돌아가는 것 같다. GPU 없이 돌렸더니 너무 느리다. 오픈 모델들도 성능이 점점 올라가고 있고, 오픈 소스들도 계속 발전하고 있어서 점점 사용이 보편화 될 것 같다. 계산 자원이 좀 필요한데, GPU도 경량화 되고, 노트북의 전반적인 계산 속도도 향상된다면 어디서나 코드 인터프리터를 사용할 수 있는 환경이 조성될 수도 있을 것 같다.