В США арестовывают людей из-за ошибок искусственного интеллекта

В результате ошибки искусственного интеллекта (ИИ) полиция задержала не менее восьми американцев. По данным Washington Post, эти люди были неверно идентифицированы программным обеспечением по распознаванию лиц.

Редакторы анализировали полицейские отчеты, судебные досье и беседовали с офицерами, прокурорами и адвокатами. Они считают, что приоткрыли только малую часть проблемы. 

Следствие редко информирует общественность об использовании инструментов ИИ, а обязанность раскрывать это есть только в семи штатах. Поэтому общее количество случаев неправомерных задержаний в результате ошибочного анализа ИИ трудно определить, отмечает WP.

При этом правоохранители полагались только на ИИ и пренебрегали другими инструментами. Проверки алиби, следов ДНК или отпечатков пальцев позволили бы исключить ошибку.

Эксперты объясняют, что программное обеспечение для идентификации лиц достигает почти идеальной эффективности в лабораторных условиях, используя четкие сравнительные изображения. На практике идеальных условий нет, поэтому и происходят ошибки.

«Доверие к технологиям помешало следователям правильно произвести оценку сходства», — подчеркнули в редакции.

Считается, что в этом сокрыт риск для общества в будущем, если человек будет исключён из многих процессов, решения ИИ перестанут перепроверяться, а система наказания, допустим, также станет максимально автоматизирована.