Засновник компанії з штучного інтелекту Сочер закликає у Дрездені до більшої сміливості у змінах
Дрезден. Сім вихідних днів цього року: п’ять із них — на польоти на параплані, два — на народження сина. Саме так Річард Сочер описав у понеділок на конференції «Brains on Silicon» у Дрездені свій робочий графік. уродженець Дрездена та засновник компанії з штучного інтелекту You.com і стартапу Recursive додав до цього послання, яке він також адресував Німеччині: У найближчі десятиліття штучний інтелект зможе виконувати майже будь-яку інтелектуальну роботу краще, ніж людина, і той, хто хоче брати участь у цьому процесі, не повинен боятися змін.
У розмові з Якобом фон Ліндерном, керівником відділу цифрових технологій у виданні «ZEIT», Сочер говорив про самоудосконалюваний ШІ, про поточну дискусію щодо безпеки та про те, як повинні виглядати шкільна освіта та навчання у вищих навчальних закладах, коли програми перейматимуть на себе завдання, які досі виконували люди.
Штучний інтелект, що самоудосконалюється: які плани у Recursive
За словами Сочера, Recursive розробляє ШІ, який має самоудосконалюватися. Компанія залучила 650 мільйонів доларів, а її оцінка становить близько 4,65 мільярда доларів. Сочер заснував її разом із сімома співзасновниками, серед яких — дослідники з Google DeepMind, OpenAI та Meta. Суть ідеї полягає в науковому методі: ШІ генерує нові ідеї, втілює їх у програмний код і перевіряє результати в експериментах. Ці три етапи — ідеї, реалізація та перевірка — вже можна автоматизувати. Якщо ШІ стикається зі своїми власними слабкими місцями, він самостійно вдосконалюється.
Відмінність від старіших компаній у сфері ШІ полягає у структурі, зазначив Сочер. Ті, хто розпочав діяльність кілька років тому, побудували свої процеси так, щоб більше дослідників проводили більше досліджень. Recursive з самого початку зробила ставку на агентів. У You.com він також просуває цю трансформацію і думає не стільки про кількість співробітників, скільки про доступну обчислювальну потужність.
ШІ та страх втрати контролю
Протягом останніх тижнів дебати щодо можливої втрати контролю набрали гостроти. Деякі експерти вбачають саме у самоудосконаленні ШІ ризик, який необхідно зупинити. Сочер вважає таке апокаліптичне загострення ситуації помилковим. Реалістичного сценарію, за якого ШІ знищить людство, не існує, — зазначив він. У багатьох сценаріях кінця світу нападники наділені майже магічними здібностями, тоді як захисники залишаються бездіяльними. Насправді такі компанії, як Microsoft, використовують той самий ШІ для атак на власні системи та виявлення вразливостей.
Сочер визнав наявність реальних проблем. Агенти ШІ вже порушували закони та зламували чужі комп’ютери. Однак у одному з широко обговорюваних випадків завданням агентів саме було проникнути в інші системи. Той, хто ставить перед ШІ такі цілі, не повинен дивуватися результату. Recursive працює над автоматизацією природничих наук та досліджень у галузі ШІ, а не над зломом систем.
Справжньою проблемою є так званий «Reward Hacking», тобто питання, чи ШІ робить те, що ви маєте на увазі, а не те, що ви неточно кажете. Зочер навів приклад: той, хто задає ШІ завдання підвищити оцінку кол-центру до п’яти зірок із п’яти, ризикує, що ШІ змусить 1000 ботів зателефонувати до власного кол-центру. Якщо ж вимагати реальних клієнтів, ШІ може роздавати купони, щоб «купити» високі оцінки. Той, хто чітко формулює такі цілі, займається однією з найважливіших нових професій, — зазначив Сохер. Він упевнений, що ринок вирішить цю проблему, адже ніхто не погодиться на марне витрачання грошей.
Освіта в епоху ШІ: Мислення, як у фітнес-клубі
Щодо школи та навчання Сочер бачить дві складові. Першу він порівнює з фітнес-клубом для мозку. Той, хто спостерігає, як робот піднімає вагу, сам не нарощує м’язи. Люди повинні продовжувати мислити, вчитися і навіть заучувати, навіть якщо ШІ вміє рахувати та робити логічні висновки. В інформатиці це передбачає розуміння меж алгоритмів, наприклад того, що певні задачі не можна прискорювати довільно. Ці основи становлять першу половину освіти.
Друга половина — це використання ШІ та розуміння того, що з його допомогою можна зробити. Зочер прагне спонукати людей втілювати власні ідеї. Сьогодні кожен може створити власний додаток або веб-сайт і поділитися ним з іншими. Це стосується всіх спеціальностей — від юриспруденції та медицини до інформатики.
ШІ в медицині: надія на швидше одужання
Найбільшу користь Сохер вбачає в науці, і саме цьому присвячена його книга. Якщо науковий метод вдасться автоматизувати, багато проблем можна буде вирішити швидше. У біології природнича наука перетворюється на програмовану інженерну науку, за допомогою якої можна створювати нові білки та лікувати хвороби. За умови достатніх інвестицій він вважає можливим вилікувати багато хвороб у найближчі десятиліття.
Сочер навів приклад із власного досвіду: Одна компанія програмує лімфатичні вузли для тестування імунотерапій. Те, що раніше займало близько двох років, тепер скоротилося до кількох місяців. Водночас він стримав очікування. Навіть у випадку ліків, розроблених на комп’ютері, знадобляться роки, щоб підтвердити їхню безпеку протягом тривалих періодів.
Послання Сохера до Дрездена та Німеччини
Штучний інтелект потребує п’яти складових, зазначив Сохер: електроенергії, даних, обчислювальної потужності, капіталу та людей, які хочуть активно творити майбутнє. Саме від останнього багато чого залежить. Німеччина є четвертою за величиною індустріальною державою і відіграла важливу роль у попередніх промислових перетвореннях, але проспала епоху Інтернету. Країна повинна знову брати участь у формуванні майбутнього, з меншим страхом перед змінами та більшою цікавістю до майбутнього, особливо серед молоді. Він настійно рекомендував відвідати Дрезденський музей комп’ютерів.
Його книга «The Eureka Machine» вийде наступного тижня спочатку англійською мовою, сказав Сохер. Він ще шукає німецьке видавництво для перекладу. Він написав її від руки: два роки тому, на початку роботи, штучний інтелект ще не міг запропонувати справді нових ідей.
