OpenAI o1 새로운 AI 추론 모델 알아보기

안녕하세요.

OpenAI에서 GPT의 새로운 추론 모델 o1 시리즈를 발표하여 이에 대해 간단하게 알아보겠습니다.

 

 OpenAI o1-prewview, mini 내용 및 사용방법

▣ OpenAI o1 모델이란?

 오픈AI의 새로운 모델로, 복잡한 문제를 해결하기 위한 추론 AI

 

 - 마치 사람처럼 문제가 발생하고 해결하기 전에 더 많은 시간을 생각하도록 훈련시킴

 - 美 수학 올림피아드(AIME) 예선에서 상위권을 기록하고 생물학/물리학 등에서 인간 박사 수준의 정확도를 초과하는 등 수학과 코딩 같이 추론에서 뛰어난 성능을 발휘함

: OpenAI o1 모델 기술 연과 게시물 바로가기

 

 - 피드백 있는 강화학습이 기존의 LLM(이하 RLHF)이라면, o1 모델은 프롬프트 이후 사고사슬(CoT)이 추가된 추론 모델임

  * RLHF : Reinforcement Learning with Human Feedback, CoT : Chain Of Thought

o1 모델 시각화

 

 - 또한, IQ Test에서 기존 AI 모델들이 인간의 평균 100보다 낮은 축에 속한 것에 비하여 o1 모델은 100보다 높은 120을 기록함

AI IQ Test Results

 

▣ OpenAI o1 사용방법

 - ChatGPT Plus 및 Team 사용자는 기존 ChatGPT에서 o1 모델 엑세스할 수 있음(ChatGPT Enterprise 및 Edu 사용자 포함)

ChatGPT 모델 선택 예시

 

 - 모델 선택에서 o1-preview 및 o1-mini를 수동으로 선택할 수 있으며, 시작 시 주간 속도 제한은 o1-preview 30개, o1-mini 50개의 메시지임

 - 무료 사용자의 경우, o1-mini 엑세스를 조만간 제공할 계획이라고 밝힘

 - 수능 수학 시험 같은 추론 문제에 강점을 갖고 있으나, 간단한 문제에 대해서도 [- 생각 중 -] 이 10초 정도 뜨는 걸로 보아하니 어떠한 질문이던 막대한 토큰 사용량이 드는 것 같음

 - 앞으로, 전체 컴퓨팅 파워에서 추론이 차지하는 비중은 점차 높아질 예정이고 이에 따라 AI 인프라 구축 또한 가속화될 것으로 보임