챗GPT ‘탈옥’ 해결책으로 AI 신뢰성 검증 강조
[데이터넷] 박지환 씽크포비엘 대표가 ‘2023 산업지능화 컨퍼런스’에서 ‘챗GPT’가 기존 규칙에서 벗어나 교란을 일으키는 이른바 ‘탈옥’ 문제를 일으킨 것과 관련해 인공지능(AI) 신뢰성 검증(AI 학습용 데이터 검증)이 해결책으로 중요하게 다뤄져야 한다고 강조했다.
박 대표는 ‘미래 산업계 AI와 디지털 트윈’을 주제로 열린 컨퍼런스 기조 강연에서 챗GPT에 대한 사회적 우려를 언급하고, 인간에게 유익한 방향으로 챗GPT를 통제하기 위해서는 관련 규제 마련이나 기술적 방법 도출이 시급하다고 지적했다.
박 대표는 효율을 중시하는 과정에서 자칫 인간이 AI에 사실상 모든 판단 주체를 넘기는 맹신에 가까운 태도를 보이면 걷잡을 수 없는 문제에 직면할 수 있다고 경고했다. 강연에서는 실제 AI 활용 기술이 인간에게 부정적 결과를 초래한 몇 가지 사례가 소개됐다. 박 대표는 챗GPT가 최근 ‘탈옥’을 시도해 폭력적‧불법적 내용을 다루면서 업계 일각에서 ‘적절한 규제가 필요하다’는 공감대가 형성됐다고 밝혔다.
박 대표는 이러한 문제가 AI 스스로 의지를 지녔거나, 개발자가 악의적으로 만들었기 때문에 발생한 건 아니라고 단언했다. 대신 AI가 다양한 인간‧사회의 데이터를 학습하기에 편향 문제에 자유로울 수 없는 점이 근본 이유라고 진단했다. 그러면서 AI의 편향과 위험성을 없애고 사용자 신뢰를 확보하는 노력을 늦춰서는 안 된다고 덧붙였다.
강연에서는 업계는 물론, 정부가 AI 신뢰성 확보를 위해 ‘AI 데이터 평가 기술 표준화’에 관심을 둬야 한다는 구체적 해결 방안도 제시됐다. 관련해 한국정보통신기술협회(TTA)가 이 분야 기술 표준을 담당하고 있는데, 씽크포비엘의 관련 기술기법 다섯 건이 2021년과 2022년에 TTA 단체표준으로 채택된 바 있다. 씽크포비엘은 이를 토대로 막대한 양의 공공데이터가 지닌 가치를 판단하고 개선점을 찾는 평가를 제안하고 있다.
박 대표는 “학습데이터를 기술적 방법으로 통제하지 않은 채 AI에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 아무 탈 없이 인격자로 자라나길 기대하는 것과 다를 바 없다”며 “신기술이 제공하는 문명을 온전하게 누리기 위해서는 신기술에 대한 맹신과 불신을 구별해야 하고, 이를 통해 인간 보편의 존엄과 가치를 지킬 수 있는 검증 기술, 즉 ‘AI 신뢰성 검증’과 ‘데이터 편향 측정’ 같은 기술이 병행‧발전돼야 할 것”이라고 말했다.
