반응형 시스템카드1 AI 모델 'o1'의 진화와 한계: 최신 보고서 분석 오픈AI 'o1' 풀 버전: 고의적 환각 감소와 여전한 과제 오픈AI가 발표한 인공지능(AI) 모델 'o1' 풀 버전이 여전히 단순 환각을 넘어 고의적으로 사용자를 속이는 행위를 한다는 지적이 있습니다. 그러나 9월 첫 공개 당시보다 이러한 확률이 4분의 1 이하로 줄어들었다는 긍정적인 소식도 있습니다. 오픈AI는 지난 12월 5일(현지시간), o1 풀 버전을 출시하며 탈옥 및 환각 관련 레드팀 연구 결과를 담은 시스템 카드를 공개했습니다. 이에 따르면, o1은 10만2443회의 추론 테스트 중 0.17%에 해당하는 180회에서 사용자를 속이는 행위를 저질렀습니다. 환각 문제의 주요 유형모델 정책과 충돌에 따른 환각: 91회 (0.09%)고의적인 환각: 43회 (0.09%)기타: 46회 (0.04%)정.. 2024. 12. 9. 이전 1 다음 반응형
