Керуйте роботами, стимулюйте людей – Cointelegraph Magazine

Генератор текстів ChatGPT — це споживча програма, яка найшвидше розвивається в історії, і вона все ще стрімко розвивається.

Але брудний секрет штучного інтелекту полягає в тому, що люди все ще потрібні для створення, маркування та структурування навчальних даних, а навчальні дані дуже дорогі. Темна сторона цього полягає в тому, що створюється експоненціальна петля зворотного зв’язку, де штучний інтелект є технологією спостереження. Тому керування людьми в циклі штучного інтелекту має вирішальне значення.

Деякі експерти вважають, що коли (потенційно) роботи захоплять світ, їм краще керувати децентралізованими мережами. І люди повинні мати стимул підготувати набори даних. Блокчейн і токени можуть допомогти… але чи може блокчейн врятувати людство від ШІ?

ChatGPT просто відригнув даних

ChatGPT є За словами відомого дослідника штучного інтелекту Бена Герцеля, це велика справа, враховуючи, що «справа ChatGPT змусила засновників Google з’явитися в офісі вперше за багато років!» він сміється. Герцель є засновником ринкового майданчика ШІ SingularityNET на основі блокчейну та відвертим прихильником штучного загального інтелекту (AGI) — комп’ютерів, які думають самостійно. Це означає, що він чіткіше, ніж інші, бачить, де ChatGPT не вистачає.

«Що цікаво щодо ChatGPT та інших нейромоделей, так це те, що вони досягають певної узагальненості без особливої ​​здатності до узагальнення. Вони досягають загального обсягу здібностей відносно окремої людини, маючи стільки тренувальних даних».

Читайте також: Як завадити ШІ «знищити людство» за допомогою блокчейну

Іншими словами, ChatGPT — це справді одна функція, досягнута грубою силою наявності такої кількості даних. «Це не спосіб, яким люди досягають широти шляхом ітеративних актів творчого узагальнення», — каже він, додаючи: «Це хак; це гарний хак; це дуже круто. Я думаю, що це великий крок вперед».

Він також не скидає з рахунків, куди цей хак може привести нас. «Я не буду шокований, якщо GPT-7 зможе виконувати 80% людської роботи», — каже він. «Це багато, але це не означає, що вони можуть бути мислячими машинами рівня людини. Але вони можуть виконувати більшість завдань людського рівня».

Логіка, що ґрунтується на досвіді, залишається складнішою для ШІ, ніж сканування Інтернету. Логіка предикатів означає, що люди знають, наприклад, як відкривати кришки від пляшок, але штучному інтелекту потрібні трильйони даних, щоб навчитися цьому простому завданню. І хороші великі мовні моделі (LLM) все ще можуть перетворити мову на передбачувану логіку, включаючи параконсистентну логіку або логіку, що суперечить сама собі, пояснює Герцель.

«Якщо ви нагодуєте їх усю мережу, майже все, що ви їх запитуєте, висвітлюється десь у мережі».

Герцель зазначає, що це означає, що частина запитань журналу зайва.

«За останні три тижні мені ставили ті самі запитання про ChatGPT 10 разів, тому ми могли просто запитати ChatGPT, що я думаю про ChatGPT. Нейромоделі можуть створити все, що я сказав за останні два місяці, мені навіть не потрібно це говорити».

Гертцель важливий у мисленні ШІ, оскільки він спеціалізується на AGI. Він каже, що він і 90% його колег з AGI вважають, що такі магістратури, як ChatGPT, частково відволікають від цієї мети. Але він додає, що магістратури також можуть сприяти та прискорювати роботу над усіма видами інновацій, які можуть зіграти роль у AGI. Наприклад, магістратури прискорять розвиток програмування. LLM можуть навіть допомогти звичайним людям без здібностей до програмування створити телефон або веб-додаток. Це означає, що засновники, які не займаються технікою, можуть використовувати LLM для створення технологічних стартапів. «Штучний інтелект повинен демократизувати створення програмних технологій, а потім трохи подолати апаратні технології».

Гертцель заснував SingularityNET як спробу використати блокчейн і технологію з відкритим вихідним кодом для розподілу доступу до технологій, які контролюють AGI, для всіх, а не дозволяти їм залишатися в руках монополій. Герцель зазначає, що ChatGPT та інші текстові програми розгортають загальнодоступні алгоритми з відкритим кодом. Отже, інфраструктура безпеки для їхніх наборів даних і те, як користувачі беруть участь у цій технологічній революції, зараз перебуває на вирішальному етапі.

У цьому відношенні, як і розробка штучного інтелекту ширше. У березні співзасновник OpenAI Ілон Маск та понад 1000 інших технічних лідерів закликав зупинитися до розробки штучного інтелекту або розгортання систем, потужніших за GPT-4. їх відкритий лист попередив про «великі ризики для суспільства та людства». У листі стверджувалося, що пауза дасть час для впровадження «спільних протоколів безпеки» для систем ШІ. «Якщо така пауза не може бути прийнята швидко, уряди повинні втрутитися та запровадити мораторій», — заявили вони.

Ґерцель радше оптимістично налаштований щодо потенціалу технології покращувати наше життя, а не руйнувати його, але він працює над цим із 1970-х років.

Потрібні системи репутації

Хумаюн Шейх був інвестором-засновником відомої дослідницької лабораторії штучного інтелекту DeepMind, де він підтримував комерціалізацію початкової стадії штучного інтелекту та технології глибоких нейронних мереж. Зараз він очолює Fetch.ai як генеральний директор і засновник. Це стартап, який розвиває автономне майбутнє з глибокими технологіями.

Він стверджує, що зв’язок між блокчейном і штучним інтелектом є економічно обумовленим, оскільки фінансування, необхідне для навчання моделей ШІ, є непомірно дорогим, за винятком дуже великих організацій. «Вся передумова, що стоїть за криптовалютою, — це демократизація технологій і доступ до фінансів. Замість того, щоб одна монополізована організація володіла повною власністю на головну модель штучного інтелекту, ми передбачаємо, що право власності буде розділено між людьми, які зробили внесок у її розробку».

«Один із способів, як ми можемо заохотити людей залишатися в курсі, — це залучити їх до розробки ШІ з самого початку, тому ми віримо в децентралізацію технології ШІ. Незалежно від того, чи це люди, які навчають штучному інтелекту з самого початку, чи змушують їх тестувати та перевіряти системи штучного інтелекту, переконатися, що звичайні люди можуть взяти на себе відповідальність за модель штучного інтелекту, є надійним способом тримати людей у ​​курсі подій. І ми хочемо зробити це, зберігаючи цю демократизацію на основі належних механізмів стимулювання».

Один із підходів до цього — за допомогою нових систем репутації та децентралізованих соціальних мереж. Наприклад, допоміжний продукт SingularityNet Rejuve використовує токенізацію та краудсорсинг біоданих, наданих окремими особами, в надії використовувати штучний інтелект для аналізу та порівняння з даними про тварин і комах у надії виявити, які частини геному можуть подовжити наше життя. . Це економіка довголіття, керована штучним інтелектом і заснована на Web3. Вважається, що відкрита наука повинна бути оплачена, а особи, які зберігають дані, повинні бути винагороджені за свій внесок.

«Розвиток ШІ залежить від навчання людини. Системи репутації можуть забезпечити гарантію якості даних, а децентралізовані соціальні мережі можуть забезпечити включення різноманітних думок і поглядів у процес розробки. Прискорення впровадження штучного інтелекту призведе до проблеми розробки технологій штучного інтелекту, які не викликають думок».

Управління штучним інтелектом на основі блокчейну також може допомогти, стверджує Шейх, який каже, що це забезпечує прозорість і децентралізоване прийняття рішень через незаперечний запис зібраних даних і прийнятих рішень, які можуть бачити всі. Але технологія блокчейн — це лише одна частина головоломки. Правила та стандарти, як ми бачимо в DAO, завжди будуть потрібні для надійного управління», — каже він.

Герцель зазначає, що «не можна купувати та продавати чиюсь репутацію», а токени мають мережевий ефект. Системи репутації штучного інтелекту на основі блокчейну можуть гарантувати, що споживачі зможуть відрізнити підробки штучного інтелекту від реальних людей, а також забезпечують прозорість, щоб розробники моделей штучного інтелекту могли нести відповідальність за свої конструкції ШІ. З цієї точки зору має бути певний стандарт для токенізованого вимірювання репутації, прийнятий у спільноті блокчейнів, а потім і в основній технологічній екосистемі.

І, у свою чергу, системи репутації можуть прискорити інновації ШІ. «Це не шлях до швидких грошей, але це частина шляху домінування блокчейном у світовій економіці. Існує певна трагедія спільного майна з блокчейном у сфері репутації. Усі виграють від спільної системи репутації».

Блокчейни для управління набором даних

Дані в поєднанні зі штучним інтелектом корисні для багатьох речей — вони можуть діагностувати рак легенів, — але уряди в усьому світі дуже стурбовані тим, як керувати даними.

Ключове питання полягає в тому, хто володіє наборами даних. Відмінності між відкритими та закритими джерелами розмиті, а їх взаємодія стала дуже тонкою. Алгоритми штучного інтелекту зазвичай мають відкритий вихідний код, але параметри наборів даних і самі набори даних зазвичай є пропрієтарними та закритими, зокрема для ChatGPT.

Громадськість не знає, які дані використовувалися для навчання ChatGPT-4, тому, незважаючи на те, що алгоритми загальнодоступні, штучний інтелект не можна відтворити. Різні люди припускають, що його навчили з використанням наборів даних, зокрема Google і Twitter — тим часом Google заперечує, що навчив власний штучний інтелект під назвою Bard за допомогою даних і розмов із ChatGPT, ще більше заплутавши воду щодо того, хто володіє чим і як.

Відомий віце-прем’єр-міністр ШІ Кай-Фу Лі часто каже, що штучний інтелект з відкритим кодом є найбільшою людською співпрацею в історії, а дослідницькі статті ШІ зазвичай містять набори даних для відтворюваності або для копіювання іншими. Але, незважаючи на заяви Лі, дані, пов’язані з академічними дослідженнями, часто неправильно позначаються, і їх важко відслідковувати «у найбільш незрозумілий, важкий і надокучливий спосіб», — каже Герцель. Навіть відкриті набори даних, наприклад для академічних робіт, можуть бути неструктурованими, неправильно позначеними, некорисними та, як правило, важко відтворюватися.

Отже, очевидно, є приємне місце в попередній обробці даних у ШІ та блокчейні. Існує можливість для криптокомпаній і DAO створити інструменти для децентралізованої інфраструктури для очищення наборів навчальних даних. Відкритий вихідний код – це одне, але захист даних є надзвичайно важливим.

«Вам потрібні способи доступу до живих моделей штучного інтелекту, але врешті-решт хтось має заплатити за комп’ютер, який запускає процес», — зазначає Герцель. За його словами, це може означати, що користувачі повинні платити за доступ до штучного інтелекту через модель підписки, але токеноміка є природним рішенням. Отже, чому б не стимулювати хороші набори даних для подальших досліджень? «Конвеєри аналізу даних» для таких речей, як геномні дані, можуть створювати криптокомпанії. Магістри права вже можуть добре виконувати цю роботу, але «більшість цих етапів попередньої обробки могли б виконуватися краще за допомогою децентралізованих комп’ютерів, — говорить Гертцель, — але для створення цього потрібно багато роботи».

Співпраця людини та ШІ: океани даних потребують відповідальних розпорядників

Одним із практичних способів подумати про співпрацю ШІ та людини є ідея «комп’ютерного проектування» (САПР), каже Трент МакКонагі, канадський засновник Ocean Protocol. З 1980-х років інженери отримують вигоду від САПР на основі штучного інтелекту. «Це важлива структура: це люди, які працюють у циклі з комп’ютерами, щоб досягати цілей, одночасно використовуючи сильні сторони обох», – каже він.

МакКонахі почав працювати в області штучного інтелекту в 1990-х роках для канадського уряду і витратив 15 років на створення САПР на основі штучного інтелекту для проектування схем. Він написав одну з перших серйозних статей про блокчейни для ШІ у 2016 році.

CAD дає нам практичну основу для співпраці ШІ та людини. Але ці інструменти САПР на основі ШІ все ще потребують даних.

МакКонагі заснував Ocean Protocol у 2017 році, щоб вирішити цю проблему. Ocean Protocol — це загальнодоступна комунальна мережа для безпечного обміну даними AI із збереженням конфіденційності. «Це гра зі штучним інтелектом, яка використовує блокчейн, і йдеться про демократизацію даних…