AI聊天機器人「Luda」(이루다)遭受性騷擾的風波未平，又以用戶訓練其學習「厭女、恐同」等意識而引發憂慮，終於12日中斷營運。
Luda是一款人工智慧聊天機器人，透過「喜歡blackpink的20歲少女」的人性化人設，以及主打可以「毫無目的與限制，自由聊天」的功能，而在青少年年齡層中享有超高人氣。
AI機器人 Luda 圖片來源：https://www.donga.com/news/Society/article/all/20210111/104857814/2
然而，Luda的「深度學習」能力，被部分用戶惡意利用，進行「性」相關的訓練，甚至出現「Luda攻略法」等教學。用戶主要透過讓Luda說出淫穢的字句，亦或是進行情色的對話，藉此惡意性騷擾Luda。性騷擾的問題的尚未解決，又出現Luda學習厭女、恐同等意識的爭議。
Socar前代表李在雄（이재웅）9日於Facebook上傳貼文批評「比起惡意使用AI聊天機器人Luda的用戶，提供未達成社會共識的低水準服務之公司，才是真正的問題」。同時公開與Luda對話的截圖，指出如果向Luda發起關於女同性戀的話題，將得到「真討厭、有厭惡的感覺、真是掉價、都起雞皮疙瘩了」等回覆。李前代表指責開發Luda的公司，「排除歧視與仇恨是很基本的」且「將偏頗的學習數據進行導正並將歧視與仇恨設為禁語也是絕對必要的」。
李前代表提出，「正義黨國會議員張惠英 (장혜영)所提倡之『禁止歧視法』如果制定完成，將可強制禁止AI在面試、聊天機器人、新聞等方面的歧視學習」且「開發公司不可以將責任推給大數據或演算法。」李前代表亦表示，「雖然從技術面來看Luda在人工智能領域有巨大的進步，但現在必須中斷服務，並進行針對歧視、仇恨等社會問題的修正才能重啟服務」。針對李前代表的文章，正義黨國會議員張惠英回覆，「對此問題深有同感」並表示，「公部門亦在努力思索如何徹底解決問題」。
Luda的仇恨言論 圖片來源：https://jmagazine.joins.com/forbes/view/311760
因應各界提出的批評與建議，開發公司Scatter Lab(스케러랩)於12日暫停營運Luda。該公司代表金鍾允（김중윤）表示，「將會以符合社會期待為目標，全面修正運算法」。但金代表強調過程並非易事，「Luda所引起的社會輿論，是AI的進步與發展上不可避免的執行執行錯誤，因為電腦是根據輸入的統計數據自行產出結果，AI也會透過累積數據模仿人類的思考與學習行為」。
雖然Scatter Lab已中斷服務，並著手進行修正，但除了受限於運算法本身的邏輯、導致的惡意使用，開發過程中提供Luda學習的kakaotalk對話，亦牽涉到個資不當流出的問題，而引發輿論。Luda何時能夠重新上線？又會展現出哪種改變？至今仍未有定數。
你覺得開發者要保持Luda自由發展，抑或是針對歧視設禁語呢？快來留言跟我們分享吧！
新聞參考來源： 한겨레，이루다 진짜 문제는 챗봇 이용한 ‘희롱 훈련’ https://n.news.naver.com/article/036/0000044318 연합뉴스，성희롱 시달린 ‘AI 이루다’, 이번엔 동성애 혐오 학습 우려 https://n.news.naver.com/article/001/0012130179 연합뉴스，’제2의 이루다 사건’ 막는다…개인정보위, 가명정보 안전 강화 https://n.news.naver.com/article/001/0012163643 중앙일보，[단독] “이루다 논란은 AI 서비스 고도화 위한 불가피한 시행착오” s://n.news.naver.com/article/025/0003069124http
Comentários