[2024][KOSMI][WINTER SCHOOL] 대한의료정보학회 거대언어모델, LLM 활용하기

1. 행사 내용

2. 요약

3. 코드 실습

---

1. 행사 내용

- 대한의료정보학회 세미나

- LLM 활용 특화, 간단한 실습 포함

2. 요약

세션1 거대언어모델 사용해보기-1

디지털 의료 혁신: 초거대 AI의 도약과 전망

- NLP 초기에는 정규표현식을 이용한 연구수준

- 2016년쯤 부터 관심업, Word2Vec>> 단어들 사이의 연관성 수학적 계산 가능해짐

- Bert, GPT, LLM …

- limitation: hallucination

---

Azure OpenAI와 Azure AI Studio를 이용한 맞춤형 copilot

- 책 추천: The AI REVOLUTION in MEDICINE GPT-4 AND BEYOND (Book)

- Prompt engineering 기술이 잘 들어가도 한계가 있다 >> 어떻게 극복하는것이 핵심

- Prompt engineering 기술적으로 해결 가능한 부분 >> 실제 copilot 으로 수정해주는 기능 도입중

- MS 365 Copilot

- gpt4를 활용해 훈련 데이터 생성 후  small model training 하기도 함

- Hallucination >> Creative의 관점에서 보면 동전의 양면으로 보는 관점도 있음

- 순서:1. 좋은 질문으로부터 시작 > 2. 고급 Prompt engineering 기술 (RAG) > 3. fine-tuning > 4. full fine-tuning

- Azure AI Studio (LLM copilot, Ops 환경, 프롬프트 튜닝, 평가 pipeline 등등)

https://azure.microsoft.com/ko-kr/products/ai-studio

Azure AI 스튜디오 - 생성형 AI 개발 허브 | Microsoft Azure

---

세션2 거대언어모델 사용해보기-2

 

생성형 인공지능 모델과 프롬프트 엔지니어링

- 고차원의 지식이 필요한 분야는 GPT4를 무조건 이용해라 

- let’s think step by step 프롬프트에 필수적으로 포함

- 영어로 prmopting 해라 >> 프롬프트 한>영 번역 단계, 결과 영>한 번역 단계 추가 가능

- Hallucination >> prompting self-verification

- system prompting, instruction을 정의하는 것 prompting: user / system

---

3. 코드실습

링크

 

세션3 거대언어모델 활용하기 (API 기반 대량 처리)

 

세션4 나만의 거대언어모델 만들어보기