Думки про ШІ

НАВАЛ РАВІКАНТ: Що ще я змінив у своїх поглядах? Думаю, сучасний штучний інтелект справді крутий, але я вважаю, що це насамперед комп'ютери для роботи з природною мовою. Вони починають демонструвати деякі ознаки міркування на певних рівнях, але, на мою думку, вони не здатні до творчості.

КРІС ВІЛЬЯМСОН: Одна з моїх улюблених думок належить Дваркашу Пателу. Він каже: якщо б будь-якій людині на планеті дати хоч 0,00001% обсягу даних, які споживає будь-яка велика мовна модель (LLM), вона створила б тисячі нових ідей.

НАВАЛ РАВІКАНТ: Саме так. Дайте мені хоч одну справді нову ідею. Одну фундаментальну нову ідею, яка виникла б сама собою. Я дуже люблю поезію, але кожен вірш, написаний ШІ, на мою думку, — сміття. Навіть художні твори, які пише GPT-4 або GPT-4.5, незважаючи на повагу до Сема Альтмана та його команди, — це дуже слабкий рівень.

Мені здається, вони дуже погано пишуть підсумки, але добре екстраполюють дані. Вони слабкі у виокремленні суті речей і не мають власної думки чи точки зору. Але навіть так — це неймовірний прорив.

Вони вирішили проблему пошуку, проблему обробки природної мови, зробили англійську мовою програмування, вирішили питання автопілоту, базового кодування, перекладу, транскрипції. Це фундаментальний прорив в обчисленнях — новий спосіб програмування комп'ютера: замість того щоб писати код вручну, ти просто пропускаєш через нього достатньо даних, щоб він сам навчився.

Але чи є вони справжнім AGI (Artificial General Intelligence — загальним штучним інтелектом)? Ще ні. І я не бачу прямого шляху від сьогоднішнього рівня до AGI. Можливо, треба буде вирішити ще кілька великих проблем. А от ідея ASI (Artificial Super Intelligence — надрозумного штучного інтелекту) здається мені фантазією. Я не вірю, що таке взагалі можливе.

КРІС ВІЛЬЯМСОН: Тобто ти не прихильник табору Бострома?

НАВАЛ РАВІКАНТ: Ні. Я не є прихильником ідеї "загибелі від ШІ". Вважаю цю лінію мислення хибною.

КРІС ВІЛЬЯМСОН: Але якщо подивитись на витоки з форуму lesswrong.com або ідеї Скотта Александера, там йшлося про те, що комп'ютери і ШІ стають дедалі потужнішими, і зрештою ми отримаємо AGI, а потім ASI.

НАВАЛ РАВІКАНТ: Так, я розумію. Але LLM-и — це ніби інший відгалуження, інший шлях. Як каже Стівен Вольфрам, це інша форма інтелекту. Це як побачити ягуара в джунглях — у нього свій тип інтелекту. Або як у рослини є свій спосіб "розуміти" світ через фотосинтез і ріст — це інший інтелект.

Інтелект, як і кохання чи щастя, — це дуже багатозначне слово. Але якщо визначити його як "здатність досягати бажаного у житті", тоді LLM-и взагалі не мають інтелекту: у них немає бажань, вони нічого не прагнуть.

Я все ж вважаю їх надзвичайно корисними і радий, що вони існують. Але поки що вони не замінили людей у важливих сферах, тому що схильні до "галюцинацій" — тобто вони можуть упевнено видавати помилкову інформацію.

КРІС ВІЛЬЯМСОН: Типу раз на десять випадків — серйозна помилка?

НАВАЛ РАВІКАНТ: Саме так. І найгірше, що вони навіть не знають, коли помиляються. Можливо, колись помилки скоротяться до одного на сто, але навіть тоді для критичних завдань доведеться залишати людський контроль.

І так, іноді я буваю дріб'язковим і заздрісним. Таке теж трапляється.