Интервктивен арт проект за разпознаване на образа, чрез изкуствен интеленкт
Може би сте видели изображения като тези, които се носят из социалните медии последните седмици: снимки на хора с ограждания около главата и смешни, странни или супер-обидни етикети.
Какво е това?
Това е AI проект за разпознаване на образа. Той е придружен от коментар за социалния и политически статус, вграден в AI системите. Този експеримент ще бъде наличен само за още една седмица. Чрез него се изразява начина, по който AI системите могат да доведат до предубедени или расистки резултати, което е повтарящ се проблем в тази област.
Изкуственият интелект сканира качените снимки на лица и ги изпраща до програма за разпознаване на AI обекти, която използва ImageNet. Това е стандартен набор от данни за обучение на такива програми. Тя прилага на лицето най-близкия съответстващ етикет от WordNet. Това е проект, който стартира през 80-те години, за да очертае взаимоотношенията на думите в целия английски език и го прилага към изображението.
Някои хора имат по-общи резултати, като “жена” или “човек”. Други получиха специфични етикети, като „микроикономист“. А мнозина се сдобиха с някои доста расистки наименования.
Смисълът на проекта е да покаже, как много неща в машинното обучение, които се схващат като технически операции или математически модели, всъщност са дълбоко социални и дори политически. Експериментът и съпътстващото есе разкриват предположенията, които влизат в изграждането на AI системи.
Тук системата зависи от отзиви на преценка от хората, които първоначално са обозначавали образите. AI системите могат да се научат да етикетират нови снимки, които никога досега не са виждали.
Не трябва да забравяме, че това е просто арт проект, а не академично премахване на ImageNet, който е предназначен най-вече за откриване на обекти, а не на хора. Някои експерти по изкуствен интелект разкритикуваха демонстрацията за това, че оставя невярно впечатление за набора от данни.
Екипът на ImageNet казва, че прави промени в етикетите свързани с хората, отчасти като премахва 600 000 потенциално чувствителни или обидни обозначения.
