성균관대학교 소프트웨어융합대학 이지형 교수님과의 인터뷰

Q1. 데이터의 편향성을 해결하기 위한 대안으로 '합성데이터 '가 사용되고 있는 것으로 알고 있습니다.

합성데이터 또한 인공지능으로 만드는 만큼 또 다른 편향성이나 현실을 왜곡하는 문제가 발생할 수 있지 않을지 궁금합니다. 일단은 ‘편향이 무엇인가’에 대해 정의해야 합니다.

쉽게 말하면 AI가 데이터를 수집하고 봤더니 흑인의 범죄율이 높다고 수집되었다고 하면, 이 데이터는 편향되었다고 할 수 있을까요? 실제로 데이터는 거짓되지 않았죠.

이러한 데이터를 가지고 흑인이 범죄를 저지를 가능성이 높다고 추론을 하면 편향된 것일까요? ‘데이터 편향’이라는 것 자체가 정의할 수 없는 개념입니다.

왜냐하면 사람마다 다 달라요. ‘공정’의 개념과 비슷해요, 모든 사람이 다 똑같이 잘 사는게 공정일까요 아니면 열심히 일한 만큼 잘 사는게 공정일까요?

데이터에 존재하는 편향을 없애자라고 말하는 것은 굉장한 위험한 얘기일 수 있습니다. 존재하지 않는 것을 존재하게 만드는 거죠.

편향이라는 것이 존재하지...