Sony начнет проверять свои продукты с элементами ИИ на предмет этических рисков

Как стало известно бизнес-изданию Nikkei, будущей весной Sony начнет проверять свои продукты с элементами искусственного интеллекта на предмет этических рисков. Если продукт сочтут этически неприемлемым, компания либо отправит его на доработку, либо откажется от дальнейшего развития.

Хотя ИИ-технологии обеспечивают потребителям дополнительные удобства, из-за недостаточного понимания алгоритмов обучения ИИ могут возникать неловкие ситуации и проблемы, связанные, например, с социальными предрассудками. Все более широкое внедрение ИИ-технологий в электронике повышает ответственность разработчиков и побуждает компании вводить более жесткие требования к этической составляющей ИИ.

Sony планирует включить рекомендации в отношении этичности ИИ в существующую процедуру контроля качества. Предполагается, что от начала разработки до выхода продуктов с элементами ИИ на рынок компания будет проверять, соответствуют ли они руководящим принципам в области искусственного интеллекта, а также соблюдаются ли необходимые меры по защите конфиденциальности.

При выявлении продуктов, не соответствующих критериям, в них будут вноситься изменения, либо компания сможет остановить их разработку даже на поздних стадиях. Кроме того, в случае выявления проблем в продуктах, которые уже успели поступить в продажу, они могут быть отозваны с рынка.

Члены Комитета по этике в области искусственного интеллекта, а также его председатель назначаются гендиректором Sony из имеющихся в компании сотрудников.

Во всем мире растет озабоченность по поводу рисков дискриминации и злоупотреблений со стороны искусственного интеллекта. В 2015 году на Google обрушилась критика после того, как разработанная компанией функция распознавания изображений приняла чернокожих людей за горилл. В 2020 году IBM, Amazon и Microsoft объявили о выходе или приостановке участия в программах, которые предусматривали предоставление ИИ-технологий полицейскими управлениями США для распознавания лиц.




Источник: DailyComm