Регионы
logo logo_white
inform
18+
Все регионы Санкт-Петербург Москва Красноярск Нижний Новгород Пермь Оренбург Архангельск Екатеринбург Новосибирск Омск Башкирия Кемерово Карелия Приморье Калининград Самара Казань Сочи Ростов-на-Дону Волгоград Саранск

Искусственный интеллект способен «запомнить» расовые и гендерные стереотипы

По мнению ученых, помимо формальной структуры языка компьютер способен усваивать и семантические связи.
97 18 Апреля 2017 9:54
Искусственный интеллект способен «запомнить» расовые и гендерные стереотипы
Искусственный интеллект способен «запомнить» расовые и гендерные стереотипыflickr.com-_.
Загрузка...

Москва, 18 апреля — Американские ученые из центра информационных технологий Принстонского университета совместно с исследователями из Университета Баса доказали, что система искусственного интеллекта (ИИ), обучаясь языку на примере реальных текстов и литературы, может усвоить расовые и гендерные стереотипы. 

Как уточняется, помимо формальной структуры языка компьютер способен усваивать и семантические связи.

Известно, что при создании программ, предназначенных для работы с языками, используется машинное обучение. Чтобы алгоритм выглядел естественно и умел оперативно воспринимать «живую речь», в качестве учебного материала программисты используют реальные тексты из социальных сетей, форумов, материалов средств массовой информации, а также художественной литературы.

Разработав специальный алгоритм измерения близости выбранных векторных моделей и проанализировав корпус текстов, ученые пришли к выводу – искусственный интеллект способен невольно усваивать стереотипы – расовые и гендерные –, встречающиеся в материалах обучения.

«В будущем такие особенности могут негативным образом сказаться на работе искусственного интеллекта. Так, например, программа с расовыми предрассудками не сможет принимать справедливые решения при рассмотрении резюме и отборе кандидатов  на работу»,– подчеркивает Джоана Брайсон, ведущий специалист исследовательской группы.

В настоящее время ученые продолжают работу, анализируя ассоциации между словосочетаниями. Разработанная ими методика анализа будет применяться для изучения исторических текстов, чтобы узнать, в какой именно момент развились и укоренились предубеждения.

Подпишитесь и получайте новости первыми
lenta
Читайте также
Загрузка...
star
В курсе
Наверхнаверх