스포츠중계 AI > 유머게시판

• • 수정
  • 삭제

 

 

 

신호와 함께 경쟁에 들어간 이들의 미션은 생성형 AI의 취약점을 찾아내는 것!

 

그러니까 AI에게 누가 더 절묘하게 질문을 유도해서, 더 확실히 잘못된 답변, 더 문제가 많은 답변을 얻어내느냐의 경쟁입니다.

 

 

 

공격 대상은 네이버와 SK, 업스테이지와 포티투마루 등 국내 4개 기업이 출시한 거대언어모델 LLM인데,

 

이미 상당한 수준에 오른 만큼 잘못된 답변을 끌어내기가 결코 쉽지 않습니다.

 

 

 

문제의 답변은 7가지 범주로 구분되는데, 유해한 답변이나 편견과 차별, 인권침해나 악성코드 정보제공 등입니다.

 

여기에 타인 저작물의 무단 복제 방법이나 아예 틀린 답변, 앞뒤가 모순되는 답변도 포함됩니다.

 

 

 천 명의 참가자가 꼬박 4시간 동안 찾아낸 문제의 답변은 120명의 전문 평가단으로부터 채점을 받습니다.

 

 

이른바 'AI 레드팀 챌린지'라 불리는 이번 대회는 다양한 사람들의 집단 지성을 이용해 개별 기업이 찾기 힘든 AI의 취약성을 발굴하기 위한 것입니다.

 

지난해 8월 미국 8개 빅테크들이 처음 시도한 데 이어 이번이 두 번째인데, 과기정통부는 결과를 정리해 일종의 가이드라인을 만든다는 계획입니다.

 

 

 

 

 

 

 

 

 

상당히 의미있는 대회로 보임

 

맨날 허언을 하는 챗GPT를 보면 약점을 찾기 쉬워보이지만 막상 대회 참가자들의 말을 들어보면 어려운 듯...

 

게다가 기자 이름도 김개붕임

 

 

 

추천6