Техногіганти вже готуються до катастрофи через ШІ

Які сценарії можливої катастрофи?

Топменеджери найбільших компаній у сфері штучного інтелекту обговорюють сценарії дій на випадок катастрофічного інциденту, про що повідомляє видання ERR. За оцінками деяких фахівців, подібна подія може статися протягом 6 – 12 місяців. Найбільш імовірним ризиком вважають масштабну кібератаку, яка здатна вивести з ладу банківські системи, інтернет, а також електро- та водопостачання.

Компанія OpenAI вже проводить навчання, готуючись до найрізноманітніших ситуацій, включаючи політичну та суспільну реакцію.

"Ми не можемо просто делегувати відповідальність за те, що штучний інтелект робить від нашого імені", – прокоментував генеральний директор Microsoft Сатья Наделла.

Контроль над суперінтелектом та загрози для криптографії

Керівник Microsoft закликав оцінити архітектуру довіри нової ери та підкреслив, що підвищення інтелекту машин не гарантує зростання їхньої надійності. Без належного контролю потужніша машина може завдати більше шкоди. Своєю чергою, очільник OpenAI Сем Альтман зазначив, що майбутня користь вимагає терпимості до певних неприємностей.

На нові ризики вказують і фахівці з криптовалют. Дослідник мережі Ethereum Джастін Дрейк попередив, що швидкий прогрес штучного інтелекту в математиці вже в найближчі роки загрожуватиме традиційним методам криптографії.

Історичний урок математиків та людська поведінка

Для кращого розуміння ситуації аналітики згадують відому публікацію 1960 року. Тоді математик Гайнц фон Ферстер разом із колегами опублікував у науковому журналі Science статтю, де на основі математичного аналізу спрогнозував кінець світу на 13 листопада 2026 року через перенаселення Землі.

Прогноз не справдився, оскільки суспільство змінило свою поведінку. Покращення освіти, урбанізація та нові уявлення про сім'ю уповільнили темпи приросту населення. Подібна трансформація може відбутися і з розвитком штучного інтелекту: людська реакція та вчасні заходи безпеки здатні змінити траєкторію розвитку технологій і запобігти катастрофічним наслідкам.