​Штучний інтелект започатковує нову еру колоніалізму

Оскільки штучний інтелект змінює те, як світ збирає інформацію, деякі критики стверджують, що він закріплює стереотипи та стирає культурні нюанси корінних народів і кольорового населення.

Більшість масових моделей навчаються на працях західних авторів - зокрема білих чоловіків - і регулярно копіюють їхні цінності, стилі письма, погляди та упередження. Деякі критики називають це захоплення даних новою формою колоніалізму, де збір інформації замінив захоплення земель епохи імперій, а прибутки від маргіналізованих груп отримують компанії з розробки ШІ, а не країни-завойовниці. Збір даних у цих груп часто відбувається без їхньої згоди чи будь-якої перевірки інформації на точність, пише Axios.

«Колоніалізм завжди зображують як щось, що залишилося в минулому... багато країн здобули незалежність, і тоді підручники кажуть: «з колоніалізмом покінчено», - розповів Axios Джуліан Посада, професор Єльського університету, який досліджує взаємозв'язок між людською працею та виробництвом даних. Посада стверджує, що сучасний колоніалізм все ще існує, але люди часто його не помічають.

Більшість великих мовних моделей створюються представниками так званих суспільств WEIRD (західних, освічених, індустріалізованих, багатих і демократичних). Вони збирають дані із соціальних мереж, вебсайтів, новинних архівів та оцифрованих матеріалів, які переважно походять із Північної Америки та Європи. Ці навчальні матеріали призводять до того, що великі мовні моделі (LLM) вигадують деталі, спираючись на західні уявлення про культурні традиції чи цінності. І ці помилки нікуди не зникають, попри зусилля технологічних гігантів навчити ШІ на основі більш різноманітних поглядів і даних.

Адітья Вашіштха, професор Корнелльського університету, розповів Axios, що моделі ШІ часто описують усю індійську їжу як «насичену, ароматну та гостру». Проте деякі страви такими не є, тож ШІ просто нівелює всю різноманітність індійських смаків. За його словами, в Індії існують різні регіональні кухні, які відрізняються видами спецій або помірністю їхнього використання.

Сам по собі забір даних є «глибоко колоніальним актом», зазначає у коментарі Axios Нік Колдрі, співавтор книги «Захоплення даних: новий колоніалізм технологічних гігантів і як з ним боротися». Логіка компаній зводиться до принципу: «Ну, воно просто лежить там у відкритому доступі. Ми можемо просто це взяти». Саме в цьому й полягала суть колоніалізму - просто забирати геть усе. При цьому додається переконання, що вони не просто можуть, а повинні це взяти, мають на це повне право і можуть робити з цього все, що заманеться, викачуючи максимум прибутку.

Прагнення технологічних гігантів рухатися швидко і генерувати прибутки лише загострює проблему, вважає Майкл Шерберт, представник корінного народу алгонкінів з громади Пікваканаган та науковий співробітник Університету Квінс. Багато американських ШІ-компаній намагаються випередити китайських конкурентів, тому час на обговорення питань і знань із корінними громадами коштує дуже дорого. Це забирає багато часу, через що вони можуть відстати у технологічних перегонах.

Браян Річі, засновник kama.ai та член громади корінного народу Крі Чапло в Онтаріо, поділився з Axios, що відвідав багато самітів за участю лідерів корінних народів, але особисто не бачив жодного випадку, коли б корінне населення було залучене до навчання ШІ.

Багато традицій корінних народів взагалі не враховуються штучним інтелектом, оскільки вони передаються усно, а не через письмові тексти, до яких велика мовна модель могла б отримати доступ. Крім того, як зазначає Шерберт, деякі знання навмисно тримають у таємниці від сторонніх.

«Проблема не лише в дезінформації», - наголошує Шерберт. Відповіді, які дають ці великі мовні моделі, дедалі сильніше формують те, як люди розуміють самих себе, свою культуру, історію, ідентичність і навіть те, що є правдивим та легітимним.

Фото axios.com