마이크로소프트 AI SLM Phi-3

안녕하세요.

온디바이스 AI 트랜드에 맞춰서 빅테크 기업들의 SLM 공개가 계속되고 있습니다. 오늘은 최근 마이크로소프트에서 공개한 소형 언어 모델(SLM) Phi-3에 대하여 알아보겠습니다.

▣ Phi-3

마이크로소프트에서 개발한 소형 언어 모델(SLM)로, 스마트폰과 같은 디바이스에 적합한 AI 모델

- 대형 언어 모델에 비해 적은 매개변수를 가졌으나, 비용 효율적이고 GPU나 인터넷 연결 없이도 노트북이나 스마트폰에서 자유롭게 사용할 수 있어, AI 서비스의 접근성을 향상시킴

- 스타트업과 같은 소규모 기업에서 적은 예산으로도 이와 같은 SLM을 활용하여 AI 서비스를 개발할 수 있음

- 애플의 OpenELM, 메타 Llamma3 등이 비슷한 느낌이나 이번 Phi-3 모델은 상업적 라이선스로 제공되어 기업 고객이 주된 타겟임

: Phi-3 모델 종류

모델	Phi-3-mini	Phi-3-small	Phi-3-medium
매개변수	38억	700억	1,400억

▣ Phi-3 사용방법

- 대부분의 AI 언어모델이 그러하듯 허깅페이스에서 간단하게 체험해볼 수 있으나, 마이크로소프트의 Azure AI Playground에서도 사용할 수 있음 (아래 참조)

- 디바이스에 특화된 모델로, 실제 스마트폰 등 기기에 탑재되어서 사용해봐야 실용성을 느낄 수 있지 않나 싶음

- 아직까지 AI 챗봇을 사용하는 사람이 스마트폰만큼 많지 않기에 Phi-3와 같은 SLM이 대두되려면 삼성이나 애플에서 이를 활용한 디바이스가 출시되어야 할 것 같음

코딩하는 금융인