현직자, 송인서 강사님의 특강 (패스트 캠퍼스, Upstage AI Lab 6기)

강사

• 송인서 (Upstage)
• LLM, API 서비스 개발, 모델 추론, 대규모 연산을 담당 → 고객사 협업, 대응

AI, 그리고 AI Engineer

• AI?
  • Artificial Intelligence
  • (사전적 정의) 인공지능은 인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현하려는 컴퓨터 과학의 세부분야 중 하나이다2
  • 1-간단한 이론으로 만들 수 있음, 2-강화학습, 3-딥러닝, 생성형
• AI Enginner : AI 기술을 이용해 문제를 해결하는 사람
• AI 기술 개발 과정
  1. 문제 정의 : 어떤 모델이 필요한가, 어떤 데이터가 필요한가
  2. 데이터 수집 : 수집, 전처리
  3. 모델 개발
  4. 벤치마크 평가 : 점수가 몇점?
  5. 필드 테스트 : 실제 현장에서 모델 동작 테스트
• 세부 역할 분석→ 각 역할이 모두 AI Engineer의 역할이 될 수도, 세부 직군으로 나뉠 수도 있음
• → 회사 별, 포지션 별 역할이 상이할 수 있음

Foundation Model의 등장과 AI 생태계 변화

FM(Foundation Model)의 등장으로 AI 생태계가 어떻게 변화하고 있을까? (ChatGPT, Liama3)

• Foundation 모델이란 무엇인가요? (By AWS)
  • 처음부터 인공지능을 개발하지 않고, 다양한 일반 작업을 수행
  • 대표적으로 LLM (GPT, llama 등)

LLM 기반 서비스

• AskUp by Upstage : LLM 기반 카카오톡 챗봇 서비스
• Perplexity (perplexity.ai) : LLM 기반 대화형 검색 서비스
• Copilot (by Github) : LLM 기반 개발 도구 (코드 생성)

ChatGPT가 부른 혼돈과 카오스

LLM(GPT)의 능력에 모두가 공감

• 기업
  • LLM으로 어떤 사업을 진행할 수 있을까?
  • 수익 창출이 가능하띾?
• 학계
  • 내가 하던 연구가 LLM으로 손쉽게 가능하다고?
  • 어떤 연구를 할까? → 어떤 LLM관련 연구를 할까?
• AI Engineer
  • 내가 개발하던 모델도 Foundation Model이 쉽게 해결 가능하네
  • 커리어 전환이 필요할까?
  • 어떤 역량을 키워야 할까?

AI Engineer @ Upstage

Upstage에서 AI Engineer가 하는 업무에 대해 알아보자

• Solar Rpo
  • 22B 사이즈 LLM 모델
  • MMLU-Pro:52.11, IFEval 48.37
  • Hugging Face에서 오픈소스로 공개
• Solar Docvision
  • 문서에 대한 VQA에 특화된 모델
  • 문서에 대한 정보 추출, 질문 답변 가능
  = 멀티 모달 LLM
  • 텍스트 + 이미지 + 영상 + …
• 모델 개발 이후 과정은?
  1. 모델 개발
  2. 모델 평가 (모델 팀)
  3. 모델 배포 (릴리즈)
     1. Console Service : 웹 콘솔에 모델 정보 추가, 기능 업데이트
     2. API Service : API 서비스 업데이트. Inference 서버 준비
     3. Hugging Face : 오픈 소스 모델 공개
     4. Article & Documentation : 외부 개발자가 모델을 이해하고 사용할 수 있도록 문서 작성
• 업스테이지 콘솔
• API 서비스 개발

AI Engineer가 되기 위한 여정

• 취업 준비는 어떻게?
  • Career path 설정
    • JD 살펴보기
    • 필요한 기술 역량 파악
    • CV(Curriculum vitae, 이력서) 미리 작성해보기
  • 핵심 역량 기르기
    • 필요한 부분 스터디
    • 프로젝트 진행
• JD(JoB Description) - AIRE(AI 리서치 엔지니어), Document AI
  • 주요 업무
    • Document AI에 필요한 연구 및 개발
    • 고객의 문제를 이해하고, 그를 가장 효과적으로 해결하기 위한 가설 제시 및 검증을 수행
    • 제품의 요구 사항을 이해하고 이를 개발 목표 및 연구 과제로 변환
    • 모델 성능에 대한 객관적인 메트릭 정의 및 측정
  • 모집 분야
    • Natural language processing
    • Multimodal modeling
  • 모집 절차 - 전체 온라인으로 진행
    • 서류 전형
      • 알고리즘 코딩테스트
      • 딥러닝 코딩테스트
      • 기술 인터뷰 1차
      • 기술 인터뷰 2차
      • 컬처 인터뷰
      • 최종 인터뷰
      • 최종 결과 발표
    • 필수 사항
      • AI 문제를 정의하고 해결하는 능력
      • 기초 머신러닝 알고리즘에 대한 깊은 이해
      • 파이썬, C++등의 언어 능력,
      • NLP, CV 등 AI 도메인의 최신 알고리즘에 대한 이해
      • 주요 기계 학습 프레임워크에 대한 깊은 이해 (예:PyTorch)
      • 다양한 협업 환경에서 일할 수 있는 능력
      • 훌륭한 의사 소통 능력
    • 우대 사항
      • 대규모 상용
• 구성원을 살펴보자 (링크드인 염탐)
  • 현재 진행하는 업무 파악
  • 구성원 비율 파악
  • 경력 확인
  • 궁금한 거 있으면 메세지 보내봐
• CV 작성은 이렇게
  • CV Check-list
    • JD와 연관성
    • 포지션에 적합한 내용들로 구성되어 있는가
    • 나에 대해 전혀 모르는 3자가 이해할 수 있는가
    • 답변할 수 있는 내용만 포함하기
    • 자신있는 & 중요한 내용 위에 배치
    • 짧고 간결하게 핵심만
• 사이드 프로젝트 진행하기
  • Just do it!
    • 작은 범위부터 시작해보기
    • 높은 수준의 프로토타입을 만들어 보기 정말 좋은 상황!
• 기술은 더 빠르게 변한다.
  • Meta Skill : 새로운 기술을 빠르게 습득하고 업무에 적용할 수 있는 능력
  • Soft Skill : 서로 다른 경험과 능력을 가진 동료들과 커뮤니케이션은 필수
  • AI : LLM 시대에 더 중요한 능력. 어떻게 작동하는지, 어떤 능력을 가지고 있는 지 파악

•