1. LLM evlauation - LLM 평가는 어려운 문제 중 하나임- 대중적으로 많이 사용되고 있는 무료 프레임워크 두개 소개- 보통 4가지 구성요소 있으면 됨 1) question 2) answer 3) context(RAG) 4) ground_truth2. DeepEval.- Metrics and Features- Githttps://github.com/confident-ai/deepeval GitHub - confident-ai/deepeval: The LLM Evaluation FrameworkThe LLM Evaluation Framework. Contribute to confident-ai/deepeval development by creating an account on GitHub.g..
1. RAG ?1) ChatGPTQuestion: RAG에 대해 블로그 할 내용 요약하고 참고 자료 주소 포함해서 10줄 내외로 작성해줘Answer: 검색 증강 생성(RAG)은 정보 검색의 힘을 언어 생성과 통합하는 인공 지능 분야의 새로운 접근 방식입니다. 이 기술은 생성 프로세스 중에 외부 문서에서 관련 데이터를 동적으로 가져와 AI가 생성한 텍스트의 품질과 정확성을 크게 향상시킵니다. Meta AI가 개발한 RAG는 변환기 아키텍처, 특히 검색용 BERT, 생성용 GPT와 같은 모델을 활용하여 보다 상황에 맞는 시스템을 생성합니다.RAG는 먼저 검색기 모델을 사용하여 입력 쿼리를 기반으로 관련 문서 구절을 선택하는 방식으로 작동합니다. 그런 다음 이러한 문서는 최종 텍스트 출력을 합성하는 생성기..
1. 개요- LLM으로 Pandas 코딩 할 수 있음- 데이터 분석 코딩 몰라도 대화형으로 구현 가능할 날이 곧 올듯2. LanChainhttps://python.langchain.com/docs/integrations/toolkits/pandas/ Pandas Dataframe | 🦜️🔗 LangChainThis notebook shows how to use agents to interact with apython.langchain.com3. LlamaIndexhttps://docs.llamaindex.ai/en/stable/examples/query_engine/pandas_query_engine/ Pandas Query Engine - LlamaIndex..
1. Studio 1) OPENAI 2) Google AI Studio 3) Anthropic 4) CLOVA Studio 2. API 1. Studio - Web 상에서 편하게 채팅모드 playground 로 사용해볼 수 있다. - 다양한 종류의 LLM 모델을 경험해보는 것은 매우 중요하다. 1) OPENAI - https://platform.openai.com/playground/chat - Model: 3.5 turbo 부터 4 turbo 까지 선택 가능 - Temperature [0,1]: 0에 가까울 수록 보수적인 - Maximum length: tocken 정할 수 있음 - 유료 사용 Credit 충전 2) Google AI Studio - https://aistudio.google.com/a..
1. Chatbot based on LLM 2. Products 3. Playground (openAI) 1. Chatbot based on LLM Top 8 LLM-powered AI chatbots LLMs have significantly enhanced conversational AI systems, allowing chatbots and virtual assistants to engage in more natural, context-aware conversations. byby.dev - LLM 기반의 챗봇 서비스 대기업에서 많이 나오고 있음 - 크게 세개가 유명함, 현재 모두 사용중(무료 버전) - 세가지 모델로 부터 만들어진 콘텐츠를 감별하는 연구 결과도 흥미로움 https://www.sea..
1. Prompt Engineering 이란 2. 관련 기술 3. 필수 요소 4. Life Cycle 5. 고급 기술 6. 보안 관련 7. 요약 1. Prompt Engineering 이란 "prompt engineering"에 대해 3문장으로 요약해서 알려줘 - ChatGPT 프롬프트 엔지니어링에는 GPT-3.5와 같은 자연어 처리 모델을 활용할 때 정확하고 효과적인 입력 지침이나 쿼리를 작성하는 작업이 포함됩니다. 이 관행은 원하는 정보나 응답을 이끌어내기 위해 프롬프트를 개선하여 모델과의 의사소통을 최적화하는 것을 목표로 합니다. 성공적인 프롬프트 엔지니어링을 위해서는 모델의 기능과 한계를 이해해야 합니다. - Bard 프롬프트 엔지니어링은 대규모 언어 모델(LLM)에게 원하는 결과를 얻도록 지시하..
1, LLM 이란 2. AI 역사 및 LLM 3. LLM 개념 및 핵심 4. 한계점 및 확장성 1. LLM 이란 - Prompt LLM 기술을 대학생 수준의 독자가 이해할 수 있도록 5 문장으로 숫자를 표현해서 요약해줘 - ChatGPT *인공지능 프로그램으로, 사람들이 사용하는 언어를 이해하고 생성하는 데 도움을 주는 기술이다. *대량의 텍스트 데이터를 학습하여 문장을 만들고 정보를 제공하며, 번역, 질문에 답하는 등의 작업을 수행한다. *우리가 대화하듯 자연스럽게 응답을 생성하며, 언어에 관련된 다양한 작업에서 도움을 줄 수 있다. *인공지능 기술의 한 형태로써, 다양한 분야에서 활용되고 있다. - ChatPDF (A Survey of Large Language Models) *수십억 또는 수백억 개..
