В ООН закликали запровадити мораторій на деякі системи штучного інтелекту, серед яких технології з розпізнавання облич, а також вжити заходи із захисту прав людини. Про це йдеться в доповіді, підготовленій на замовлення ООН, присвяченій загальному впливові сучасних технологій на суспільство.
«Технології штучного інтелекту можуть мати негативні, навіть катастрофічні наслідки, якщо їх використовувати, не беручи до уваги те, як вони впливають на права людини», — заявила верховна комісарка ООН з прав людини Мішель Бачелет під час презентації доповіді. Вона закликала експертів оцінити ризики різних систем, базованих на штучному інтелекті, щоб визначити потенційні конфлікти з правом на конфіденційність або свободу пересування та висловлювання поглядів. Поки таку оцінку не буде проведено, «держави мають запровадити мораторій на технології, які потенційно становлять великий ризик».
Дослідження засвідчили, що недосконалості у функціонуванні штучного інтелекту, а саме технології з розпізнавання облич, часто ставали причиною того, що люди не могли отримати соціальні виплати, працевлаштуватися або призводили до арештів невинних людей. Через те, що системи з розпізнавання облич було погано налагоджено і вони не могли правильно розпізнати людей з африканськими рисами обличчя. «Ризик дискримінації внаслідок ухвалення рішень на основі штучного інтелекту — рішень, які можуть змінити, стигматизувати або завдати шкоди людському життю, — надто реальний», — наголосила Мішель Бачелет.
У доповіді зазначається, що цей штучний інтелект налагоджується за допомогою величезних баз даних, які часто створено в непрозорий спосіб. Ці бази даних можуть бути погано оформленими або застарілими, що призводить до порушень прав людини. «Ми не можемо дозволити собі наввипередки намагатися опанувати технологію штучного інтелекту і використовувати її без належного контролю, а лише потім усувати наслідки цього для прав людини», — заявила верховна комісарка.
Ми в Google+