Штучний інтелект для безпеки та науки

Штучний інтелект прискорює темпи відкриттів у науці та технологіях. Але сучасна екосистема ШІ ризикує централізувати обчислювальні потужності, таланти та повноваження щодо прийняття рішень, зосереджуючи можливості таким чином, що це може підірвати як інновації, так і безпеку.

Щоб протидіяти такому розвитку подій, програма «Штучний інтелект для безпеки та науки» створює децентралізовану мережу центрів, присвячених науці та безпеці на основі штучного інтелекту. Кожен центр поєднує грантове фінансування з офісними та громадськими приміщеннями, програмуванням та внутрішніми обчислювальними потужностями для прискорення розвитку проектів. Мета полягає в тому, щоб надати дослідникам екосистему, яка відповідає їхній місії, де прогрес на основі штучного інтелекту залишається відкритим, безпечним та спрямованим на процвітання людства.

Програма «Штучний інтелект для безпеки та науки» приймає заявки від окремих осіб, команд та організацій. Заявки можуть подавати як некомерційні, так і комерційні організації, але комерційні організації повинні бути готові обґрунтувати, чому їм потрібне грантове фінансування.

Організатор віддає перевагу заявникам, які мають намір активно використовувати центри в Сан-Франциско або Берліні; проекти, що передбачають лише фінансування, приймаються лише у виняткових випадках.

Програма «Штучний інтелект для безпеки та науки» щорічно виділяє близько 3 мільйонів доларів на фінансування. Гранти зазвичай становлять від 10 000 до 100 000 доларів, причому більші суми виділяються на напрямки, орієнтовані на безпеку штучного інтелекту, а менші — на проекти в галузі біотехнологій довголіття та молекулярних нанотехнологій.

Умови фінансування такі:

• Програма «Штучний інтелект для безпек та науки» фінансує як короткострокові, так і довгострокові проекти. Гранти зазвичай виплачуються одноразово. Однак для більших проектів, що тривають кілька років, виплати можуть здійснюватися траншами, причому кожен наступний транш залежить від успішного завершення та звітування про попередні етапи.
• Програма «Штучний інтелект для безпек та науки» може фінансувати накладні витрати в розмірі до 10% від прямих витрат на дослідження, якщо вони безпосередньо підтримують фінансувану роботу.
• Успішні заявники повинні пройти процес належної перевірки програми, який включає підтвердження ваших зв'язків з Foresight Institute, повідомлення про будь-які поточні кримінальні провадження, банкрутство тощо, а також надання детального бюджету, плану проекту та організаційних документів. 
• Приймаючи фінансування, грантоотримувачі погоджуються, що програма «Штучний інтелект для науки та безпеки» може розмістити їхній проект на своєму веб-сайті та поділитися назвою проекту та ім'ям керівника проекту, наприклад, у соціальних мережах. Якщо ви бажаєте, щоб ваш проект залишався приватним, повідомте про це програму «Штучний інтелект для науки та безпеки».
• Гранти підлягають основним вимогам щодо звітності. Грантоотримувачі повинні регулярно подавати короткі звіти про хід виконання проекту, в яких описується використання коштів та прогрес у досягненні узгоджених етапів.
• Податкові зобов'язання різняться залежно від країни та типу організації. Заявники несуть відповідальність за розуміння та дотримання будь-яких застосовних податкових вимог.

Проекти, орієнтовані на штучний інтелект

Щоб йти в ногу з розвитком штучного інтелекту та використовувати його можливості, програма «Штучний інтелект для науки та безпеки» надає пріоритет проектам, які використовують штучний інтелект як основний двигун прогресу в наших пріоритетних сферах. Мета полягає в тому, щоб наука та безпека розвивалися разом зі штучним інтелектом — для безпечної та корисної еволюції інтелекту.

Пріоритетні сфери

Організатор із задоволенням фінансує та підтримує роботу в таких сферах:

1. ШІ для безпеки. Традиційні парадигми безпеки, які часто є реактивними, фрагментарними та керованими людиною, не можуть масштабуватися відповідно до швидкості, масштабу та складності атак, що підтримуються штучним інтелектом. Програма «Штучний інтелект для безпеки та науки» прагне підтримати самоудосконалювані системи захисту, в яких штучний інтелект автономно виявляє вразливі місця, генерує формальні докази, створює «червоні команди» та зміцнює цифрову інфраструктуру світу.

2. Приватний штучний інтелект. Щоб забезпечити відкритий прогрес штучного інтелекту без шкоди для конфіденційності, програма «Штучний інтелект для безпеки та науки» прагне підтримувати роботу, яка застосовує штучний інтелект для покращення конфіденційних обчислювальних середовищ, масштабування механізмів конфіденційності для обробки даних та проектування інфраструктури, що розподіляє довіру.

3. Децентралізований та кооперативний штучний інтелект. Організатор фінансує роботи, що спрямовані на створення децентралізованих інтелектуальних екосистем, в яких системи штучного інтелекту можуть співпрацювати, вести переговори та узгоджувати свої дії, щоб суспільства залишалися стійкими в багатополярному світі. Програма особливо зацікавлена в проектах, що забезпечують мирне співіснування людей і штучного інтелекту та створюють нові механізми співпраці на основі штучного інтелекту.

4. ШІ для науки та епістемології. Окрім застосування штучного інтелекту для вирішення конкретних проблем, програма «Штучний інтелект для безпеки та науки» потребує кращих платформ, інструментів та інфраструктури даних для прискорення наукового прогресу, що базується на штучному інтелекті. Аналогічно, щоб підготуватися до швидких змін, програма зацікавлена у фінансуванні робіт, що застосовують штучний інтелект для поліпшення прогнозування та загальної епістемологічної готовності.

5. ШІ для нейроінтерфейсів, інтерфейсів «мозок-комп'ютер» та емуляції всього мозку. Організатор зацікавлений у роботі, яка використовує передові моделі для картографування, моделювання та розуміння біологічного інтелекту, створюючи основи для гібридів між людським та штучним пізнанням, від інтерфейсів «мозок-комп'ютер» до емуляції всього мозку. Програма приділяє особливу увагу цій галузі через її потенціал для поліпшення оборонної позиції людства в міру розвитку ШІ.

6. ШІ для біотехнологій довголіття. Програма «Штучний інтелект для безпеки та науки» хоче фінансувати роботи, що застосовують ШІ для досягнення прогресу на наукових фронтах у біотехнологіях довголіття — від біостазу та заміщення до генної терапії та екзосом.

7. Штучний інтелект для молекулярної нанотехнології. Програма організатора підтримує роботи, в яких штучний інтелект використовується для досягнення прогресу на наукових рубежах молекулярної нанотехнології – від проектування та моделювання до конструювання та складання наномашин.

• Терміни: останній день кожного місяця; заявки розглядаються щомісяця, доки центри не досягнуть повної потужності.
• Орієнтовний час розгляду: біля двох місяців після кожного терміну подання заявок; розгляд може бути швидшим для менших сум фінансування. Заявники можуть подати запит на прискорення розгляду, але це не може бути гарантовано.
• Процес відбору: попередній внутрішній розгляд на відповідність та якість; сильні пропозиції надсилаються технічним консультантам; можуть бути додаткові письмові запитання або короткий дзвінок; індивідуальні відгуки, як правило, не надаються заявникам, які не пройшли відбір, через великий обсяг заявок.
• Центри штучного інтелекту в Сан-Франциско та Берліні планується відкрити на початку 2026 року.

Заповніть онлайн-анкету (Airtable) за посиланням.

• Вплив на зменшення екзистенційних ризиків від штучного інтелекту: ступінь, в якому проект може зменшити екзистенційні ризики, пов'язані зі штучним інтелектом, зосередившись на досягненні значних успіхів у галузі безпеки штучного інтелекту в короткі терміни.
• Реалістичність у короткі терміни AGI: здатність проекту досягти значного прогресу в передбачувані короткі терміни розвитку AGI. Пріоритетними є проекти, які можуть продемонструвати конкретні етапи та результати протягом наступних 1-3 років.
• Відповідність ключовим напрямкам діяльності: ступінь, в якому проект відповідає одному або декільком ключовим напрямкам, описаним на цій сторінці.
• Здатність до виконання: кваліфікація, досвід та ресурси заявника (заявників) для успішного виконання запропонованої роботи. Пріоритет надаватиметься сильним командам з перевіреним досвідом у галузі безпеки штучного інтелекту або суміжних галузях.
• Високий ризик, високий потенційний прибуток: рівень ризику, пов'язаний з проектом, збалансований з потенціалом суттєвого, трансформаційного впливу на майбутнє безпеки штучного інтелекту.
• Заохочуються спекулятивні проекти з високим ризиком, які в разі успіху можуть привести до значних змін.
  Перевага відкритого коду: перевага надається проектам з відкритим кодом, якщо немає конкретних причин, що цьому перешкоджають.

Зверніть увагу, що критерії безпеки ШІ не застосовуються до пріоритетних областей ШІ для біотехнологій довголіття та молекулярної нанотехнології.

На етапі відбору успішних заявників та проведення комплексної перевірки організатор вимагає:

• підтвердження зв'язків з Foresight Institute;
• інформацію про будь-які поточні кримінальні провадження, банкрутство тощо;
• детальний бюджет;
• план проекту;
• організаційні документи.

• Успішні заявники повинні пройти процес належної перевірки, що включає підтвердження їхніх зв'язків з Foresight Institute, розкриття інформації про будь-які поточні кримінальні провадження або банкрутство, а також подання детального бюджету, плану проекту та організаційних документів.
• Гранти супроводжуються базовими вимогами щодо звітності: грантоотримувачі повинні регулярно подавати короткі звіти про хід виконання проекту, в яких описується використання коштів та прогрес у досягненні узгоджених етапів.
• Грантоотримувачі несуть відповідальність за дотримання податкових зобов'язань, які різняться залежно від країни та типу організації.

• Успішні заявники повинні пройти перевірку, включаючи подання зазначених документів.
• Приймаючи фінансування, грантоотримувачі погоджуються, що організатор може розмістити їхній проект на веб-сайті та поділитися назвою проекту та ім'ям керівника проекту (наприклад, у соціальних мережах); заявники можуть вимагати, щоб їхній проект залишався приватним.
• Гранти підлягають основним вимогам щодо звітності.
• Податкові зобов'язання різняться залежно від країни та типу організації; заявники несуть відповідальність за їх розуміння та дотримання.