양천구시설관리공단 ‘생성형 AI 활용에 관한 윤리지침’ 제정

양천구시설관리공단은 지난 2월 9일, 생성형 인공지능(AI) 활용 과정에서 발생할 수 있는 윤리적·사회적 영향을 관리하고, 양천구민의 신뢰를 바탕으로 한 안전하고 책임감 있는 AI 사용 문화를 정립하기 위해 ‘생성형 AI 활용에 관한 윤리 지침’을 제정했다고 밝혔다.

이번 지침은 AI의 도입부터 기획, 운영, 피드백 등 전 과정에 걸쳐 준수해야 할 구체적인 기준을 담고 있으며, 급격한 기술 변화 속에서 인권 침해를 방지하고 프라이버시를 보호하기 위한 기술적·관리적 대책을 지속적으로 점검하도록 명시했다.

또한, AI 활용의 기본 원칙으로 인간의 존엄성 존중과 다양성 포용을 내세워, 성별이나 나이, 장애 등에 따른 차별 없이 공정하게 기술을 적용하고 사회적 약자의 접근성을 실질적으로 보장하여 기술의 혜택이 모든 구민에게 공평하게 분배되도록 할 방침이다.

그리고 AI 오작동이나 정보 왜곡으로 인한 부정적 영향을 방지하기 위해 상시 모니터링 체계를 구축하고, 모든 최종 결과물은 반드시 담당 직원의 검토를 거치는 ‘인간의 최종 통제’ 원칙을 의무화했다.

이용화 이사장은 “이번 지침 제정은 AI라는 혁신적인 도구를 사용함에 있어 공공기관으로서 지켜야 할 윤리적 가치와 책임을 명확히 한 것”이라며 “정기적인 교육과 역량 강화 프로그램을 통해 임직원의 AI 활용 능력을 높이는 동시에, 구민이 안심하고 이용할 수 있는 투명한 디지털 행정 문화를 조성하는 데 최선을 다하겠다”고 말했다.