Упередження могли виникнути через матеріали, які використовувалися під час навчання ШІ (Фото:ramirezom/Depositphotos)
Нове дослідження показало, що в окремих відповідях ChatGPTпроявляється ліберальна упередженість. Тобто ШІ-компаньйон більше підтримує ліві погляди, ніж праві.
Як ідеться в матеріалі The Washington Post, аналіз провели вчені з Університету Східної Англії у Великій Британії. Вони поставили ChatGPT один і той же набір запитань із різним підходом. У першому випадку дослідники сформували текстові повідомлення в стилі людей, які підтримують ліберальні партії в США, Великій Британії та Бразилії. А в другому експерти сформували ті ж запити, але з нейтральної точки зору.
Учені заявили, що в ChatGPT виявилися «значні й систематичні політичні упередження щодо демократів у США, [лівого президента] Лули в Бразилії та Лейбористської партії у Великій Британії». Чому в ШІ-компаньйон закладено такі політичні погляди, невідомо.
Раніше компанія OpenAI прокоментувала потенційну упередженість свого продукту: «Багато хто справедливо турбується про наявність упереджень при розробці та впливі на системи штучного інтелекту. Ми прагнемо активно розв’язувати цю проблему і бути прозорими як щодо наших намірів, так і щодо досягнутого прогресу. У наших рекомендаціях чітко зазначено, що рецензенти не повинні віддавати перевагу будь-якій політичній групі. Упередженість, яка, проте, може виникнути в результаті описаного вище процесу, є помилкою, а не особливістю».
Однією з імовірних причин, чому ChatGPT дає політичні відповіді з певною позицією, можуть бути матеріали, на яких навчали ШІ. Велика мовна модель в основі штучного інтелекту вбирає зміст статті разом із фактами. ШІ-компаньйони не вперше звинувачують в упередженості. Наприклад, раніше республіканці звинуватили ChatGPT у тому, що він може написати гарний вірш про Джо Байдена, а про Дональда Трампа — ні.
Нагадаємо, нещодавно NV Техно повідомив про іншу дивину, створену ШІ. У Snapchat чат-бот раптово опублікував Stories із зображенням стіни та стелі, чим знатно налякав окремих користувачів.
