AI 윤리 기준 도입 시급…국내 AI 챗봇 기업 심심이 자체 필터링 기술 론칭
AI 윤리 기준 도입 시급…국내 AI 챗봇 기업 심심이 자체 필터링 기술 론칭
2021.02.25 15:06 by 최태욱

인공지능(AI) 챗봇 등 일반 소비자를 대상으로 한 AI 상품 및 서비스 공급이 늘고 있는 가운데 AI 윤리 기준을 서둘러 도입해야 한다는 목소리가 높아지고 있다. 특히 글로벌 대기업을 중심으로 AI 윤리 기준 만들기 사례가 늘어남에 따라 정보통신기술 업계 내에서 관심이 높아지고 있다.

글로벌 기업들은 AI 윤리 기준을 일찌감치 공표하며 이를 적극 실천하고 있다. 구글은 7가지 AI 윤리 원칙을 내세우며 이를 강조하고 있는데 ▲사회적 유익성 ▲불공평한 바이어스 방지 ▲안전성 확보를 염두에 둔 개발 및 실험 ▲설명 책임 ▲프라이버시 원칙 적용 ▲과학적 탁월성의 탐구 ▲기본 이념에 따른 기술 제공 등이 그것이다. IBM 역시 AI 접근법 및 원칙을 자사 홈페이지에 공개하며 세간의 주목을 받았고, 마이크로소프트(MS)도 최근 AI 기본 원칙을 세우고 AI 윤리위원회를 발족했다.

이러한 일련의 자발적인 노력은 과거 AI 윤리 부재에 따른 논란이 반면교사로 작용했다. MS는 2016년 AI 챗봇 '테이(Tay)’를 론칭했으나 유저들이 인종차별, 성희롱 발언을 학습시키는 바람에 혐오 발언을 쏟아내 운영 중단이라는 강수를 뒀다. 아마존은 AI 면접 시스템을 구축했으나 여성 및 인종차별 등의 문제가 불거지면서 개발 중단이라는 비참한 성적표를 받아들인 바 있다.

 

인공지능(AI) 챗봇 기업 '심심이’가 론칭한 필터링 솔루션 ‘DBSC’(사진: 심심이)
인공지능(AI) 챗봇 기업 '심심이’가 론칭한 필터링 솔루션 ‘DBSC’(사진: 심심이)

국내에서도 AI 윤리 기준에 부합하기 위한 시스템 개발 및 도입이 적극 이뤄지고 있다. 인공지능(AI) 챗봇 기업 ‘심심이’가 정부 AI 윤리 기준에 부합하는 자체 시스템을 론칭한게 대표적이다. 악성 글, 악플 탐지가 가능한 필터링 솔루션 ‘DBSC(Deep Bad Sentence Classifier)’가 바로 그 것. 심심이의 DBSC는 자체 연구개발 노하우로 탄생한 문장 분류 솔루션으로 악플을 99% 이상 실시간 탐지 가능한 것이 특징이다. DBSC는 신조어, 은유적 표현 등을 과도하게 필터링하지 않고 금지 키워드를 피해 문장을 교묘하게 변형한 악플, 은유적인 악성 표현들을 포착하는 특화된 차단 성능을 발휘한다. 실제로 심심이는 DBSC의 딥러닝 모델 정확도가 99% 이상으로 집계된다고 발표하며 눈길을 끌었다. 심심이 측은 머신러닝의 성능 지표인 F1점수 또한 0.99 이상으로 나타나 높은 정밀도 및 재현율을 자랑한다고 설명했다. 

심심이 최정회 대표는 “최근 업데이트한 버전의 경우 한국어 채팅에 많이 쓰이는 문장을 210만 개 확보하여 학습데이터로 활용했는데 각 문장마다 10명의 무작위 패널 투표를 받는 방식으로 고순도의 라벨링을 진행했다”면서 “심심이의 DBSC는 키워드 필터링, 인간의 전수검사 두 가지 방식의 장점을 모두 적용한 솔루션으로 딥러닝 모델이 인간의 전수조사 결과물을 유연하고 즉각 다국어에 대응하는 것이 포인트”라고 설명했다. 

 

필자소개
최태욱

눈이 보면, 마음이 동하고, 몸이 움직이는 액션 저널리즘을 꿈꿉니다.


Startup 더보기
  • 엔버드의 ‘Try EveryThing’, LINK SALAD 일간차트 TOP 100 1위 달성
    엔버드의 ‘Try EveryThing’, LINK SALAD 일간차트 TOP 100 1위 달성

    "다시 일어서는 힘은 누군가에게 큰 용기를 준다!"

  • 포레, 음식물쓰레기 배출원 관리시스템 eFMS 개발로 업계 혁신 이끈다
    포레, 음식물쓰레기 배출원 관리시스템 eFMS 개발로 업계 혁신 이끈다

    음식물쓰레기 처리 및 관리 분야의 새로운 패러다임!

  • 반려동물 포털앱 ‘핫도그’, 애플라인드와 콜라보 통해 스포츠 의류브랜드 론칭
    반려동물 포털앱 ‘핫도그’, 애플라인드와 콜라보 통해 스포츠 의류브랜드 론칭

    반려동물을 위한 서비스, 의류까지 확대됐다!

  • 투니모션, 네이버 웹툰 원작 애니메이션 ‘달달한 그녀’ 론칭 확정
    투니모션, 네이버 웹툰 원작 애니메이션 ‘달달한 그녀’ 론칭 확정

    투니모션이 두 번째 애니메이션 ‘달달한 그녀’를 애니메이션 전문 OTT 채널인 ‘라프텔’을 통해 오는 7월 25일에 우선 공개한다. 투니...

  • 스타트아트코리아, K-ART의 세계화 위해 아티스트 지원 나선다
    스타트아트코리아, K-ART의 세계화 위해 아티스트 지원 나선다

    과감한 투자와 차별화된 기획... 우리 예술, 세계로 간다!

  • ‘비저블 런웨이 2022’ 컨퍼런스 성료
    ‘비저블 런웨이 2022’ 컨퍼런스 성료

    국내 최초의 비즈니스 인텔리전스 커뮤니티 ‘비저블(Vizable, 대표 전서연)’이 데이터 시각화 컨퍼런스 ‘비저블 런웨이 2022’를 ...

  • 에이비일팔공, ‘모던 그로스 스택 2022’ 성료
    에이비일팔공, ‘모던 그로스 스택 2022’ 성료

    디지털 프로덕트 시대의 철학과 가치, 비즈니스 노하우를 나누다

  • ‘팝 표현주의’ 필립 흄, ‘스타트 아트페어 서울 2022’ 참여작가로 나선다
    ‘팝 표현주의’ 필립 흄, ‘스타트 아트페어 서울 2022’ 참여작가로 나선다

    서울에서 만나는 팝 표현주의, 그 현대적이고 화려한 작품 세계를 소개합니다.