MY.UAНовости
С картинками
Текстовый вид
ru
УкраинскийРусский
2 октября, пятница
OpenAI створює комітет з безпеки та починає навчання нової моделі ШІ
OpenAI створює комітет з безпеки та починає навчання нової моделі ШІ

OpenAI створює комітет з безпеки та починає навчання нової моделі ШІ

OpenAI сформував Комітет з безпеки, який очолять члени правління, включаючи генерального директора Сема Альтмана, оскільки він починає навчання своєї наступної моделі штучного інтелекту, повідомив стартап.

Директори Брет Тейлор, Адам Д'Анджело та Ніколь Селігман також увійдуть в комітет, повідомляє OpenAI у блозі компанії.

Підтримується Microsoft, Чат-боти OpenAI із генеративними можливостями штучного інтелекту, такими як участь у людських розмовах і створення зображень на основі текстових підказок, викликали занепокоєння щодо безпеки, оскільки моделі штучного інтелекту стають потужними.

Новий комітет відповідатиме за надання рекомендацій раді щодо рішень щодо безпеки та безпеки для проєктів і операцій OpenAI.
«Новий комітет з безпеки означає, що OpenAI завершує перехід до комерційної організації з більш невизначеної некомерційної організації», — сказав адміністратор директор DA Davidson Гіл Лурія.
«Це має допомогти оптимізувати розробку продукту, зберігаючи підзвітність».
Колишній головний науковий співробітник Ілля Суцкевер і Ян Лейке, які були керівниками команди OpenAI Superalignment, яка забезпечувала відповідність ШІ поставленим цілям, залишили фірму на початку цього місяця.
OpenAI розпустила команду Superalignment на початку травня, менш ніж через рік після того, як компанія її створила, а деякі члени команди були переведені в інші групи, повідомляє CNBC через кілька днів після гучних відходів.
Першим завданням комітету буде оцінка та подальший розвиток існуючих методів безпеки OpenAI протягом наступних 90 днів, після чого він поділиться рекомендаціями з радою.
Після розгляду правлінням OpenAI оприлюднить оновлення прийнятих рекомендацій, повідомили в компанії.
Інші члени комітету включають новопризначеного головного наукового співробітника Якуба Пахоцького та Метта Найта, керівника служби безпеки.
Компанія також консультуватиме інших експертів, у тому числі Роба Джойса, колишнього директора з кібербезпеки Агентства національної безпеки США, і Джона Карліна, колишнього чиновника Міністерства юстиції.
OpenAI не надала додаткових деталей щодо нової «передової» моделі, яку вона навчає, за винятком того, що вона виведе свої системи на «наступний рівень можливостей на нашому шляху до AGI».
Раніше в травні компанія анонсувала нову модель штучного інтелекту, здатну здійснювати реалістичну голосову розмову та взаємодію між текстом і зображенням.
Источник материала
InternetUAInternetUA
loader
loader