Штучний інтелект тупішає через сміттєвий контент з соцмереж, — дослідження

Нове дослідження, проведене Техаським університетом в Остіні, Техаським університетом A&M та Університетом Пердью, показує, що у великих мовних моделей, що споживають популярний низькоякісний контент, знижується «інтелект». Про це повідомляє Wired.

Науковці завантажували різні типи тексту у дві моделі великих мов з відкритим кодом Llama від Meta та Qwen від Alibaba та досліджували, що відбувалося, коли моделям пропонували низькоякісний контент з соцмереж, зокрема, розрахований на «вау-ефект».

Після вживання моделі демонстрували зниження когнітивних здібностей, включно зі зниженням здатності до міркування та погіршення пам'яті. Моделі також стали менш етично узгодженими та більш психопатичними.

Результати відображають дослідження на людях, які показують, що низькоякісний онлайн-контент негативно впливає на когнітивні здібності людей.

За словами науковців, результати дослідження важливі для індустрії штучного інтелекту, оскільки розробники моделей можуть вважати, що публікації в соціальних мережах є гарним джерелом навчальних даних для їхніх моделей.

Дослідники також виявили, що моделі, пошкоджені низькоякісним контентом, складно перевчити.

«Наші результати показують, що як тільки починається таке «гниття мозку», подальше чисте навчання не може повністю його виправити», — заявив аспірант Техаського університету в Остіні Джуньюань Хонг, що брав участь у дослідженні.

Науковці зазначають, що оскільки ШІ все частіше створює контент для соцмереж, з’являється своєрідне замкнуте коло.

«Оскільки дедалі більше сміття, створеного штучним інтелектом, поширюється в соціальних мережах, воно забруднює ті самі дані, з яких навчатимуться майбутні моделі», — сказав Хонг.

Термін «гниття мозку» (англ. brain rot) означає погіршення психічного стану людини через надмірне споживання низькоякісного або тривіального онлайн-контенту, наприклад, скролінг соціальних мереж. Цей термін став словом року за версією Оксфордського словника 2024 року, аби відобразити занепокоєння впливом цифрової культури.

Фото: Pixabay