Відповідь на питання про упряж

Мартін Касадо опублікував щось про джгути штучного інтелекту, які показують, де зараз застрягли багато розумних людей.

Щодо упряжів я вагаюся між трьома переконаннями: чим менше упряжів, тим краще. Моделі – це магія. Післятренування моделі та упряжі значно кращі, а постачальники моделей виграють. Ремені мають реальну незалежну від моделі цінність. Я не знаю, що правильно. Мартін Касадо

Я думаю, що я можу відповісти на це.

Причина, чому це питання здається неможливим, полягає в тому, що ми розглядаємо збрую як одну річ. Насправді їх двоє. Кожен джгут містить певну комбінацію ЩО і ЯК — контекст про те, чого ви хочете, та інструкції, як це отримати. І ці дві половинки старіють у протилежних напрямках.

ЯК половина гниє. Це гіркий урок Саттона, який розігрується у ваших конфігураційних файлах: чим розумнішими стають моделі, тим дурнішими виглядають у порівнянні з ними ваші покрокові інструкції. Якщо ваша система здебільшого полягає в тому, ЯК, тоді перше переконання Мартіна є правильним. Менше джгутів, тим краще, тому що модель — це магія.

Цінує ЩО половина. Хто ви, над чим працюєте, чого прагнете досягти і що вам здається хорошим. Розумніша модель робить більше з цим контекстом, а не менше. Якщо ваша збруя в основному ЩО, то його третя віра правильна. Він має реальну незалежну цінність, і ця цінність зростає з кожним випуском моделі.

Отже, переконання один і три правильні. Це просто різні половинки упряжі.

Друге переконання — про те, що постачальники моделі встановлюють модель і виграють — правильно щодо виконання та неправильно щодо наміру. Лабораторії абсолютно точно можуть навчити моделей бути кращими агентами, і вони це зроблять. Але вони не можуть постнавчати ВАШ контекст у модель. Що ви намагаєтеся побудувати, для кого, з вашими обмеженнями та вашим смаком. Щоразу це потрібно фіксувати й передавати ззовні.

Для цього й джгут. Я називаю це Intent Engineering, і це весь принцип дизайну, що лежить в основі мого власного джгута: фіксувати те, чого насправді хоче людина, передати це моделі під час виконання кожного завдання, а в іншому випадку триматися осторонь.

Тож ТАК використовувати. Надзвичайно потужний. Але для вашого контексту, залишаючись осторонь моделі для виконання.