오픈챗 이름 및 설명 글로 유해성 판단하는 모델 개발하기 (새 탭에서 열림)
들어가며 안녕하세요. AI Services Lab 팀의 ML 엔지니어 이여운입니다. 저희 팀에서는 사용자에게 유해한 오픈챗이 노출되지 않도록 다양한 모델을 개발하고 있습니다. 이번 글에서는 오픈챗의 이름(name)과 설명 글(description)을 기반으로 해당 오픈챗이 유해한지 판단하는 모델을 개발한 과정을 소개하고자 합니다. 오픈챗 모니터링 소개 오픈챗 생성 시 사용자는 오픈챗 이름을 필수로 정해야 하며, 부가로 본 오픈챗을 설명하는 글을 남길 수 있습니다. 서비스를 운영하는 측에서는 오픈…