1. 행사 내용
2. 요약
3. 코드 실습
1. 행사 내용
- 대한의료정보학회 세미나
- LLM 활용 특화, 간단한 실습 포함
2. 요약
세션1 거대언어모델 사용해보기-1
디지털 의료 혁신: 초거대 AI의 도약과 전망
- NLP 초기에는 정규표현식을 이용한 연구수준
- 2016년쯤 부터 관심업, Word2Vec>> 단어들 사이의 연관성 수학적 계산 가능해짐
- Bert, GPT, LLM …
- limitation: hallucination
Azure OpenAI와 Azure AI Studio를 이용한 맞춤형 copilot
- 책 추천: The AI REVOLUTION in MEDICINE GPT-4 AND BEYOND (Book)
- Prompt engineering 기술이 잘 들어가도 한계가 있다 >> 어떻게 극복하는것이 핵심
- Prompt engineering 기술적으로 해결 가능한 부분 >> 실제 copilot 으로 수정해주는 기능 도입중
- MS 365 Copilot
- gpt4를 활용해 훈련 데이터 생성 후 small model training 하기도 함
- Hallucination >> Creative의 관점에서 보면 동전의 양면으로 보는 관점도 있음
- 순서:1. 좋은 질문으로부터 시작 > 2. 고급 Prompt engineering 기술 (RAG) > 3. fine-tuning > 4. full fine-tuning
- Azure AI Studio (LLM copilot, Ops 환경, 프롬프트 튜닝, 평가 pipeline 등등)
https://azure.microsoft.com/ko-kr/products/ai-studio
Azure AI 스튜디오 - 생성형 AI 개발 허브 | Microsoft Azure
생성형 AI 솔루션 및 사용자 지정 Copilot을 빌드하고, 평가하고 배포하기 위한 올인원 AI 플랫폼인 Azure AI 스튜디오를 살펴보세요. 지금 AI 여정을 시작하세요!
azure.microsoft.com
세션2 거대언어모델 사용해보기-2
생성형 인공지능 모델과 프롬프트 엔지니어링
- 고차원의 지식이 필요한 분야는 GPT4를 무조건 이용해라
- let’s think step by step 프롬프트에 필수적으로 포함
- 영어로 prmopting 해라 >> 프롬프트 한>영 번역 단계, 결과 영>한 번역 단계 추가 가능
- Hallucination >> prompting self-verification
- system prompting, instruction을 정의하는 것 prompting: user / system
3. 코드실습
세션3 거대언어모델 활용하기 (API 기반 대량 처리)
