생성AI

실망스러운 코파일럿

Good.PhD 2025. 3. 8. 20:22

예전에는 좋았는데,,, 코파일럿이 업데이트 도니 후로는 사용하지 않게 된다. 인터페이스 디자인만 이뻐졌고, 답변 성능은 상당히 하락한 모습이다. 이미지 생성도 안되고, 문서 올리고 질문 하는 것도 안됨.... 그래서 코파일럿이랑은 거의 절교 상태. 대신 최근에는 퍼플렉시티를 많이 사용하고 있다. 예전에는 무료 계정에서 답변 횟수에 제한이 있었는데, 이제는 없어졌다. 그리고 최근에는 Comet 이라는 퍼플렉시티 브라우저 출시도 준비하고 있다고 한다. 에이전트 기반 웹 브라우저라고 하니 꽤 기대가 된다.

 

Genspark도 성능이 나쁘지 않다고 생각하기는 하는데... 퍼플렉시티 먼저 사용하고 결과가 마음에 들지 않는 경우에나 Genspark를 사용하고 있다. 곰곰히 생각해보니 답변 생성 속도 차이 때문인 듯. Grok3가 현재는 무료로 쓸 수 있기 때문에 잘 쓰고 있다. DeepSearch 기능을 사용하면 상당히 광범위 한 자료를 검색해서 답변을 제안해준다. 

 

요즘에는 ollama에 제공되는 무료 모델로 일을 해보려고 하는 중. 그래서 다양한 모델을 테스트 해보고 있다. 특히 파라미터가 작은 모델들은 노트북 혹은 GPU 자원이 없는 데스크탑에서도 돌아간다. 답변 성능이 조금 아쉬울 때가 있는데, 계속 테스트 해보면서 어느정도까지 할 수 있는지 확인해보고 있다.

 

테스트 해보고 있는 모델 (파라미터 작은 모델 위주로 테스트 해보는 중)

구글: Gemma2

알리바바: Qwen 2.5

메타: Llama 3.1, 3.2, 3.3

마이크로소프트: Phi-3.5, Phi-4

LG: exaone 3.5

딥식: deepseek-R1

 

지난 포스팅에서 소개하긴 했는데, Anything LLM을 설치해두고 간단한 RAG를 만들어서 시험해보고 있다. 어떤 경우에 가장 성능이 좋은지 실험 중. 다 좋은데 표에 있는 정보를 잘 못 읽어온다. 그래서 표 데이터를 잘 읽을 수 있도록 문서에서 사전 처리를 하던지 다른 대인이 필요할 듯.

https://good-phd.tistory.com/63

 

나를 위한 서류 요약 AI비서 만들기 5분이면 됩니다 (ft. AnythingLLM)

나를 위한 서류 요약 AI 비서를 전문용어로 RAG (Retrieval-augmented generation)라고 한다. 내가 제공한 문서에서 요약도 해주고 필요한 정보도 찾아줄 수 있다. 보안 문제 때문에 공개하기 어려운 서류도

good-phd.tistory.com