[태그:] 레드팀

크라우드웍스,  생성형 AI 신뢰성 평가 프레임워크 개발 착수

크라우드웍스가 AI 신뢰성 기반조성을 위한 ‘생성형AI 신뢰성 평가 프레임워크 개발’ 사업에 착수했다.   AI 테크 기업 크라우드웍스(대표 김우승)는 최근 한국정보통신기술협회(TTA)가 주관하는 ‘생성형 AI 신뢰성 평가의 실용적 접근 방안 연구’ 사업을 수주했다고 17일 밝혔다.  크라우드웍스 외 자연어 처리 솔루션 전문 스타트업 ㈜테디썸(대표 함영균), 연세대학교(김한샘 교수 연구팀) 3개사가 컨소시엄을 이뤄 참여한다.  이번 사업은 생성형 AI의 안전성 및 신뢰성 […]

AI 신뢰성 검증 : LLM 평가와 레드팀 운영의 중요성

지난 6월 18일 서울 여의도 콘레드 호텔에서 크라우드웍스의 세번째 AI Conference가 열렸습니다. 크라우드웍스 김우승 CEO의 오프닝을 시작으로 기업의 성공적인 AI 활용에 대한 Data 전략 인사이트를 나누는 시간을 가졌는데요. 200명 이상의 기업 고객분들이 참여해 주셔서 LLM 도입에 대한 뜨거운 관심을 확인할 수 있었습니다. 아래 내용은 컨퍼런스의 세션 중 크라우드웍스 Enterprise NLP팀 이진우 팀장님의 ‘LLM 서비스 신뢰성 검증 평가’의 발표 내용을 영상 클립과 함께 간략히 재구성한 내용입니다.