인공지능(AI) 사회의 문제
1. 알고리즘(algorithm)의 개념
지금은 인공지능 기술이 일상생활에서 알고리즘이 지배하면서, 음성인식, 검색, 모빌 리치, 통신 등 다양한 분야에서 진화하고 있다.
이러한 알고리즘은 컴퓨터가 자동적으로 특정 작업의 절차, 규칙, 변경어로 처리하면서, 사용자의 행동 기록과 각종 개인적인 정보 등을 분석한다는 것이다.
그러므로 소비자마다 취향과 관심사를 분석하며 알맞은 맞춤형 콘텐츠, 광고 등을 제공한다.
예를 들면, 구글, 페이스 북, 트위트 등 소셜 미디어 종류, 반응의 시점과 형태, 주제 등을 파악하며 이용자가 선호하는 콘텐츠를 선별하여 제공한다는 것이다.
2. 알고리즘의 문제
인간들은 인공지능의 알고리즘은 기계로서 정확하고 객관적일 것을 기대하지만, 쇼핑이나 검색 알고리즘은 조작이나 공정성에 대한 의혹과 논란에서 유튜브 등 영상 추천의 편향성의 비난으로 알고리즘의 사회적 감시가 요구되는 현실이다.
이러한 편향성 알고리즘의 조장원인은 개발자의 선입견과 편견이 설계하는 AI에 그대로 반영되기 때문이다.
특히, 편향성은 유튜브, 넷플릭스 등의 플랫폼에서 문제가 발생하여 사회분열을 조장할 수 있다.
이런 확증편향성으로 인한 가치관, 신념, 판단, 취향에 맞는 정보만을 주목과 수요하고 그 외의 정보는 무시하는 사고방식이다.
이렇게 됨으로써, 개인은 취향이나 생각에 부합한 맞춤형 추천 영상만 지속적으로 접하게 되고 편향된 정보에 갇히는 필터 버블(Pilter Bubble) 현상이 발생하는 문제가 생기게 된다.
그러므로 부적절한 알고리즘은 일반적으로 불투명성의 알고리즘의 모델과 불공정성 알고리즘이 사람들에게 확장성으로 이어 진다는 것이다.
결국, 알고리즘의 중립성, 공정성, 편향성에 대한 논란의 원인은 이미지를 잘못 인식하도록 한 기술적 오류와 편향된 데이터의 입력에 따른 결과의 도출이라고 할 수 있다.
기술적인 오류를 편향성으로 비판하는 자체가 편견일 수 있으므로 장기간에 수집된 데이터의 편견과 편향에 치우치지 않도록 하는 것이 중요시된다.
이러한 편향성을 기술의 동작원리에 있으므로 내부 교육과 윤리의 기준에 의하여 치우침이 없는 정보의 주입과 기술의 정보화로 오류를 감소화하여야 확정 편향적 가고에서 벗어나서 편견과 편향이 만연한 현대 인공지능 사회의 문제를 감소시킬 수 있다.
