인공지능의 개인정보 침해

알고리즘 삭제 명령

오의교 기자 | 기사입력 2024/03/29 [11:34]

인공지능의 개인정보 침해

알고리즘 삭제 명령

오의교 기자 | 입력 : 2024/03/29 [11:34]

인공지능 구축과정에서 개인정보를 보호해야 한다는 경각심을 기업에게 각인시켜야 할 것이다.

 

국회입법조사처는 2024322,미국 FTC의 알고리즘 삭제 명령, 개인정보 침해 데이터로 학습한 인공지능 규제의 시사점을 다룬 이슈와 논점을 발간한다.

인공지능 시대에 새로운 형태의 개인정보 처리가 증가함에 따라 개인정보 침해 가능성에 대한 우려는 더욱 커지고 있다.

미국 연방거래위원회는 개인정보 침해에 강력히 대응하기 위하여 개인정보를 침해한 학습데이터로 만든 인공지능 알고리즘모델을 삭제하도록 하는 알고리즘 삭제 명령을 몇 차례 내렸다.
심리검사 앱을 이용해 수집한 페이스북 이용자와 그 친구들의 정보를 대선 운동 홍보에 사용한 캠브리지 애널리티카 사례, 사진 공유 앱에 업로드한 사진을 이용하여 인공지능 얼굴 인식 기술을 개발한 애버앨범사례, 직원의 접근 권한을 광범위하게 허용하고 보안 장치를 제대로 갖추지 않아 스마트홈 기기로 수집한 개인정보를 유출 위험에 노출시킨 링 사례가 그 예이다.
미국에서도 알고리즘 삭제 명령이 일반적인 규제 수단으로 자리잡은 것은 아니나, 인공지능 구축 과정에서 개인정보 보호의 중요성에 대한 경각심을 기업에게 불러일으킨다.

알고리즘 삭제 명령은 개인정보 침해 문제뿐만 아니라 지식재산권 침해, 허위 정보 생산, 편향성 등 여러 인공지능 문제에 대한 새로운 규제 수단이 될 수 있지만 다음과 같은 사항을 고려해야 한다.
강력한 수단이기 때문에 부적절한 데이터 수집 유인을 방지하고 기업의 자율적인 노력을 촉진할 수 있지만, 상당한 경제력 피해를 초래하고 인공지능 산업 등 국가 경쟁력을 저하시킬 우려도 있다.
규제당국이 불법데이터가 사용된 알고리즘을 정확히 확인하기 어렵기 때문에, 기업이 데이터 수집이용 과정을 구체적으로 기록하도록 하고 이를 제대로 이행한 경우에는 인센티브를 줄 필요가 있다.
규제당국이 알고리즘 삭제를 직접 확인할 수 있는 제도가 뒷받침되어 있지 않고 기술 전문성이 필요하므로 이에 대한 대응이 필요한다.

개인정보 침해의 정도가 현저히 큰 상황에 대해서 알고리즘 삭제 명령의 타당성을 고민하되, 알고리즘을 삭제하는 과정에서 발생할 수 있는 피해를 최소화하기 위한 장치와 실질적인 집행 방법, 신기술 규제에 필요한 정부의 기술 역량을 확보하고 기업의 자율적인 규제를 유도하는 방향으로 정책을 모색할 필요가 있다.

  • 도배방지 이미지

관련기사목록
광고
광고
광고
광고
광고
광고
광고
사랑의 후원금
사랑의 후원금 자세히 보기
사랑의 후원금 후원양식 다운로드
사랑의 후원금
광고