20대 인공지능 여성 '이루다'..사이버 성폭력 논란

2021. 1. 9. 02:29■ AI 반도체 메모리 컴퓨터

20대 인공지능 여성 '이루다'..사이버 성폭력 논란

김나한 기자 입력 2021. 01. 08. 22:12 댓글 597

번역 설정

공유

글씨크기 조절하기

인쇄하기 새창열림

 

[앵커]

인간이 만든 인공지능은 편리함을 넘어 이제 친구가 될 수 있다는 기대감도 나옵니다. 문제는 받아들이는 인간입니다. 실제 20대 여성으로 개발된 인공지능에 사이버 성폭력이 가해지고 있습니다. 이 인공지능은 대화 내용을 학습한다고 합니다. 인간의 문화가 투영되는 건데, 정말 많은 걸 생각해 보게 합니다.

김나한 기자입니다.

[기자]

제가 지금 누구와 대화를 하고 있을까요.

친구 같지만, 이루다라는 이름인데 사람이 아니라 인공지능입니다.

실제 메신저 대화 100억 건이 바탕이라 진짜 사람처럼 말투가 자연스럽습니다.

국내 회사가 개발했는데 루다에게 친구 신청만 하면 누구나 대화할 수 있습니다.

약 2주만에 벌써 40만 명이 루다와 채팅을 했습니다.

이 중 85%가 10대입니다.

그런데 '사이버 성폭력' 문제가 불거졌습니다.

루다는 스무 살 여성이란 설정인데, 성적 대화를 하는 노예처럼 만들었다는 인증 화면이 줄줄이 올라온 겁니다.

개발 단계에서 성희롱 단어나 표현 수천 개를 뽑아, 관련 대화를 막아뒀는데도 그렇습니다.

[김종윤/스캐터랩 대표 : 대개 인간이라면 사실 그런 것들을 피해서 그런 의미를 전달할 수가 있잖아요. 사람이 판단하는 것을 학습하도록 (할 예정입니다.)]

진짜 사람이 아니니까 아무 말이나 해도 괜찮은 건 아닙니다.

[이수영/KAIST 전기전자공학부 명예교수 : 저희가 AI에 대해서 윤리를 이야기하는 이유는 AI는 스스로 배울 수가 있게 된다는 거거든요? 사람이 하는 것을 그대로 사람이 다시 받을 각오를 해야 하는 거죠.]

루다도 이용자가 쓰는 부적절한 성적 표현들을 학습했습니다.

2016년 미국에서는 인공지능이 사용자들에게 인종차별, 성차별 발언을 배우자 16시간 만에 서비스를 중단했습니다.

(영상디자인 : 이재욱 / 인턴기자 : 남예지)

 

CopyrightsⓒJTBC, All Rights Reserved.

JTBC 주요 뉴스해당 언론사로 연결됩니다.

 

공지AI 기술로 쾌적한 댓글 환경을 만들어갑니다.

댓글 597MY

댓글 입력

세이프봇 설정

설정 버튼

  • 추천댓글도움말
  • 찬반순
  • 최신순
  • 과거순

 

 

  • 그날이 오면3시간전

    말 배우는 어린이 수준인데 욕을 가르친 쓰레기는 뭐꼬

    답글2댓글 찬성하기135댓글 비추천하기5

  • 혜원3시간전

    와 기사도 소름인데 댓글은 더 소름이다... 인간이아니네 그냥

    답글1댓글 찬성하기372댓글 비추천하기31

  • 최소미3시간전

    ai 성별을 여자로 "정하자마자" ㅎ... 실제 여성에대한 인식이 저딴식이니까 ai한테까지 표현이 되는거지.. 대상이 ai라고 더 경악할 필요없음 실제 여성에게는 더하니까 허구헌날 강간 살인 성폭력...ㅎ

    답글14댓글 찬성하기529댓글 비추천하기47

더보기

새로고침

 

많이본 뉴스

포토&TV

 

이 시각 추천뉴스