생성AI14 헤엄치는 연어회 실험 (이미지 생성AI 환각 테스트) 이미지 생성AI도 환각 이슈가 있다. 대표적인 사례가 이 헤엄치는 연어회 이미지다. 예전에 검색해본 결과에 따르면 일본에서 연어를 그려달라는 프롬프트를 입력했고 그 결과로 이렇게 헤엄치는 연어회 이미지가 얻어졌다고 한다. 과연 이렇게 환각이 발생하는 모델이 있을지 궁금해서 테스트를 해보았다. 이미지 생성모델은 아래와 같이 사용해보았다.1. DALL-E: 코파일럿과 뤼튼에서 제공하는 생성이미지는 DALL-E가 생성해준 이미지다.2. lasco.ai3. ideogram4. stable diffusion5. flux6. adobe firefly 프롬프트를 뭘로 할까 하다가... 연어를 그려달라고 요청해봤다. 강에서 헤엄치는 연어를 그려달라고도 해봤는데 결과는 비슷했다. 그래서 예전같은 할루시네이션은 이제 거의.. 2024. 9. 18. LLM간 할루시네이션 비교 (세종대왕이 맥북프로를 던진 사건) 할루시네이션은 우리 말로 환각이라고 한다. 소위 사람들이 AI가 거짓말한다고 하는게 할루시네이션이다. 환각은 모델이 모르고 있는 정보에 대해서 물어볼때 발생하는 것 같다. deeplearning.ai에서 upstage 강의를 들어보면 pretraining 과정에서 모델이 접하지 못한 정보에 대해서는 모델이 전혀 모른다는 이야기를 한다. 그래서 모델의 지식을 개선시키려면 pretraining 과정이 필수적이라고 한다. 모델이 지식은 없지만 말은 할 줄 아니 사용자의 질문에 대해서 부정확한 답변을 그럴듯한 문장으로 만들어내는 이유는 pretraining 과정에서 제대로 학습을 못한 정보이기 때문이라고 생각한다. 개인적으로 찾은 2가지 할루시네이션을 모델 별로 비교해보는 실험을 해보려고 한다.바로! 세종대왕.. 2024. 9. 16. 프롬프트 작성 핵심 원칙 (ft. 생성AI로 인사말 써 보기!) 프롬프트는 인공지능 모델에게 입력하는 지시문을 의미한다. 그러니까 챗GPT한테 이메일 작성을 요구했다면, 그 요구 사항이 프롬프트다. 그런데 많은 경우 프롬프트를 굉장히 부실하게 작성한다. 한국사람의 프롬프트가 부실한 이유는 평소에 우리의 말에서 단어의 생략이 많기 때문이라고 생각한다. 한국어로 대화할 때 주어를 구체적으로 명시하는 경우가 많지 않고, 서로 알고 있다고 생각하는 내용들도 과감히 생략해서 이야기하는 경우가 많다. 그러다 보니 우리는 원래 쓸모없는 단어를 줄여가면서 굉장히 효율적으로 대화를 하고 있다. 하지만 그런 효율적인 문장은 좋은 프롬프트라고 보긴 어렵다. 프롬프트 작성법 혹은 프롬프트 엔지니어링이라고 검색을 해보면 많은 블로그에서 정리하고 있는 내용들을 볼 수 있다. 그러한 노하우를 .. 2024. 9. 14. 로고 생성 AI: Ideogram 이디오그램 (Ideogram) 발음은 조금 어렵지만, 무료이면서 로고 생성할 때 자주 쓰는 AI툴이다.이미지생성을 했을 때 사람의 얼굴이나 손을 정확하게 그리지 못하는 경우가 종종 발생한다. 거기에 이미지에 원하는 글씨를 정확하게 넣는 것도 사실 잘 못하는 경우가 많았었다. 최근에는 모델들 성능이 다들 좋아져서 그런 경우가 현저하게 줄어들긴 했지만, 그래도 이미지에 텍스트를 오기재 하는 경우는 꽤 자주 발생하는 편이라고 생각한다.예전에 만든 이미지이지만, 어떻게 틀리는지 예시를 올려본다. 프롬프트: a tiny cute cat on top of finger, a butterfly on top of the cat라스코에서 만들긴 했는데, 손가락이 이상한 형태를 보인다. 가끔 얼굴이 일그러진 형태로 나오기도.. 2024. 8. 29. 코파일럿과 함께 계약을! 이번에 책을 출판했다. 활동하고 있는 인공지능 학회 (AiFrenz, 에이아이프렌즈) 덕분에 기회가 생겼고, 고민하다가 책을 써보게 되었다. 에이아이프렌즈는 대덕연구단지에서 인공지능 연구를 하는 연구자들이 함께 모여서 만든 커뮤니티이다. 연구자들이 많다 보니 학회로 설립하긴 했지만, 활동하는 분들을 보면 선생님부터 산업계, 예술 분야 등 다양한 분들이 함께 모여 있다. 그래서 다양한 인공지능 활용사례를 볼 수 있다. http://www.bookcollection.kr/html/collection/sub_03_01_book_view.php?isbn=9791128866579&book_codeNum=456986&page= 북컬렉션컬렉션 가치가 있는 베스트셀러, 추천도서 등의 명품도서와 시리즈 소개www.boo.. 2024. 8. 29. 아이들과 함께 Lasco.ai 테스트 (프롬프트 키워드와 이미지) 아이들이 그린 그림이나 만들어낸 창작물 사진을 이용해서 생성AI에 넣어서 결과물을 만들어 보고 싶었는데, 이번에 기회가 되서 같이 사진 이미지를 업로드하고 사진을 변형시키면서 같이 시간을 보냈다.라스코 AI는 네이버 손자뻘 회사에서 만든 AI라고 한다. 여기에는 이미지를 같이 업로드 할 수 있게 되어 있어서 여기서 재미있는 이미지를 한번 같이 만들어보기로 했다. Lasco.ai | AI image generation and beyond Lasco.aiGenerate AI images with the magic word /gen!www.lasco.ai 업로드한 원본 이미지는 세미나 끝나고 받은 인형. 인형을 하나밖에 못 받아서 둘이서 뜬근없이 싸웠음...아무튼 인형 이미지로 여러가지 이미지를 만들어보기로 .. 2024. 8. 27. 이전 1 2 3 다음
