여기에는 인간 전문가와 자동화된 시스템이 수행하는 정기적인 평가가 포함됩니다. 주요 활동은 다음과 같습니다.

• 버전 관리 및 회귀 테스트: 다양한 모델 버전을 비교하여 개선 사항을 추적하거나 성능 저하를 식별합니다.

• 탐색적 평가: 주요 개발 단계에서 모델의 강점과 약점을 심층적으로 평가하고, 이를 종합적인 보고서로 작성합니다.

배포 후에는 지속적인 모니터링을 통해 AI 모델이 성능 기대치에 부합하도록 유지합니다. 자동화된 시스템이 문제 있는 결과를 감지하면, 해당 결과는 전문가가 검토하여 문제를 수정하고 학습 데이터셋을 업데이트합니다.

이 단계에서는 인간 전문가로 이루어진 팀을 투입하여 모델의 취약점을 구체적으로 파악하려는 시도를 합니다. 이 프로세스는 허위 정보 유포나 부적절한 콘텐츠 생성과 같은 유해한 행동을 탐지하기 위해 마련되었습니다. 이러한 문제가 식별되면 이를 목록화하고 추가적인 모델 훈련 및 미세 조정을 통해 해결합니다.