Группы пользователей

Если я хочу просто хорошо писать промты и понимать, какую модель мне лучше использовать для каких задач, то это одно. Но и в этом случае здорово будет понимать, чем отличаются модели друг от друга. Как надо формировать контекст запроса, и что влияет на качество и самое главное, на стоимость использования.

Условно бесплатные модели могут дать некоторое понимание, как они работают. Однако, разница между моделями по мере сложности задачи становится более явной. И это критично, если вы собираетесь использовать эти модели в режиме чат бота. Если же захотите собирать ИИ-агентов по шаблону для типовых задач — это уровень в котором надо погружаться в то, как связать данные друг с другом. А если хотите проектировать полноценные решения с ИИ внутри — то сразу добавляется еще архитектура, безопасность, интеграции, поддержка, развитие.

Не так сложно написать работающее небольшое приложение с помощью ии, как потом внести в него небольшие изменения и доработать. Вот тут уже все недостатки и ограничения встанут во всей красе.

Так что может оказаться, что вообще не нужно глубоко погружаться — и это абсолютно нормально.

Знакомо? Дело в том, что чтобы “это” куда-то вставить, нужно понимать, что это за код. Это неизбежно повлечет за собой необходимость разбираться в том, что для исполнения этого кода нужно подходящее программное окружение. Его еще надо настроить, чтобы оно заработало.

Если эта Елена в примере проявит настойчивость и начнет разбираться в этом вопросе, то ей потребуется немало времени, чтобы это приложение в итоге работало так, как надо.

Я бы разделил пользователей ИИ на две принципиально разных группы. Собственно, в зависимости от того, к какой группе вы относитесь, будут зависеть и ожидания и получаемые результаты. Это продвинутый пользователь и разработчик. Эта книга для тех, кто хочет стать продвинутым пользователем.

Группа: Продвинутый пользователь инструментов ИИ

Это самая массовая группа. Сейчас все чаще встречается требования от работодателей к сотрудникам при найме, это хорошие навыки промтинга. Правда тут возникает множество вопросов. Например, а какие навыки считать хорошими? Как определить, что мои навыки хорошие? Если я могу у Алисы спросить рецепт яичницы а Дипсик мне безошибочно дает ответ на вопрос о принципе работы парового двигателя - это считается?

Продвинутого пользователя характеризует следующее:

• он внятно и грамотно умеет описать запрос или уточение в письменном виде (промтинг);
• он понимает разницу между системым сообщением и общим телом запроса;
• он имеет практический опыт использования разных моделей, какой контекст может держать та или иная модель;
• он понимает ценообразование за использование моделей (токены на вход и выход);
• (следствие из предыдущего пункта), он может самостоятельно настроить себе бота ассистента и управлять его памятью даже для общения по крупному проекту;
• он может настроить стандартные инструменты агента для решения обмена информацией;

Поэтому, если я могу спросить у Алисы рецепт яичницы — это нормальный старт, но это ещё не «хороший промптинг» в рабочем смысле. Хороший уровень начинается там, где я стабильно получаю нужный результат под задачу без лишних итераций. И людей, которые время от времени что-то спрашивают у чат бота, к продвинутым пользователям их отнести нельзя.

Контекст задачи

Я не просто так в списке характеристик выделил "управление памятью" ИИ ассистента. Почему это самое важное? Приведу пример.

На определенном этапе развития чат ботов, стало понятно, что это идеальный вариант для практики иностранного языка. Можно выбрать тему, задать боту инструкции, чтобы он давал обратную связь и общаться с ним, улучшая свои разговорные или письменные навыки. И просто для практики и поддержания навыка это замечательно. Но в какой-то момент вы хотите, чтобы ваш ИИ ассистент не просто болтал с вами и подправлял, но понимал, какой у вас базовый уровень, какой словарный запас, какие темы вы проходили, но вы в них плаваете.

**И вот эту задачу опытный пользователь должен иметь возможность решить. Построить своего ассистента, дать ему инструкции, но самое главное - дать ему инструмент получения информации о том, что пройдено, о вашем словарном запасе, дать ему возможности самому управлять записями о прогрессе знаниях. **

И в таком случае - польза от ассистента будет в разы выше. Именно это мы и будем с вами далее учиться делать.

---

Когда вы отправляете вопрос в любую модель ИИ, нужно понимать, что для модели каждый ваш запрос - это запрос с чистого листа. Это важно. Если вы при общении с ботом общаетесь и он отвечает, учитывая историю диалога, то это только потому, что каждый запрос содержит в себе историю в качестве контекста.

Если вы общаетесь в каком-то сервисе с какой-то моделью, то наверняка замечали, что когда тема обсуждения выходит за пределы 10..15 сообщений, бот начинает “забывать” о чем вы говорили. Это может происходить по разным причинам: может модель слишком простая или в том сервисе, где вы пользуетесь ботом, память работает на простом принципе - "берем последние 10 сообщений", остальное выбрасываем.

Если речь идет не о справочных или энциклопедических знаниях, то любому спецу нужны входные данные. Нормальный врач, юрист или дизайнер интерьеров, к которому вы пришли, чтобы решить вашу задачу, зададут вам уйму вопросов, чтобы сформировать для себя ясную и четкую картину. Что вы хотите? Какие есть ограничения? Какие проблемы? Какие есть условия, которые надо взять во внимание и т.п...

А дальше, по мере вашего общения со специалистом, он держит эту информацию на заднем фоне и имеет ее в виду. Мало того, если по мере беседы выясняются какие-то новые обстоятельства или детали, то он это тоже делает себе заметку. И только когда полный "анамнез" собран, специалист сможет предложить вам решение вашей задачи.

LLM модель же в нормальном режиме такой возможности лишена. Однако если вы настраиваете себе агента, то есть такое понятие, как "системное сообщение".

Если это понятно, то получается, вам для того, чтобы стать опытным пользователем и создать себе "ассистента консультанта" нужно лишь корректно описать контекст. Так?

Почти, но не совсем. Хотя даже одного этого достаточно, чтобы общаться уже не просто с чат ботом, а с чат ботом, который глубоко погружен в ваш вопрос и может формировать ответ не "в общем", а основываясь на ваших конкретных ограничениях и условиях.

Какие задачи может практически решать опытный пользователь ИИ?

Представьте себе, что вы можете создать себе консультанта совершенно по любой теме. Если вы научитесь, то можно делать кучу полезных вещей:

• продумать маркетинговую стратегию с учетом ваших условий и помнить о предыдущих действиях и результатах;
• создать контент план и планомерно его выполнять, отмечая, что уже выполнено;
• написать тексты для сайта или рекламы;
• создать рекламную кампанию в рекламных системах, провести аналитику результата и внести корректировки;
• написать или подправить договоры с множеством итераций;
• описать кратко и понятно суть большого документа, написанного сложным юридическим/медицинским/техническим и т.п. языком;
• перевести текст на другой язык с очень хорошим качеством;
• создать лендинг или сайт визитку и вывесить в интернет;

Это лишь немногие из примеров. Но самое главное, что если у вас какая-то задача из описанных встречается регулярно и часто, то возможно вы самостоятельно сможете сделать автоматизацию, чтобы эта задача решалась без вашего участия. Если там что-то нестандартное, то там уже понадобится помощь человека из второй группы, но вы со своими помощниками уже точно сможете ему внятно поставить задачу.

Опытный пользователь имеет своих помощников, которые по любому вопросу могут дать хороший ответ.

Мой личный список таких ассистентов включает следующих агентов:

• личный доктор, который имеет доступ к моей истории обращений к врачам, анализам, диагнозам и т.п. Со временем я убедился, что его советы дешевле и точнее обычных врачей, которые даже не имеют шансов изучить достаточно все необходимое. А агент, имея доступ ко всем анализам, может делать открытия и связывать данные из разных обласлей. У обычного узкого специалиста такой возможности физически нет.
• маркетолог, который помогает настраивать личные и контрактные рекламные кампании;
• системный администратор, знающий мои сервисы, который помогает по развертыыванию сервисов, а также следит за бекапами и безопасностью;
• по каждому емкому проекту разработки настроен отдельный агент разработичк, который помогает вести разработку проекта;
• ассистенты с очень ограниченным набором функций, например, робот, производящий сборку корзины товаров для шкафов в лемана про;

Мы пока не касались других областей, в которых ИИ может быть полезен, но навыки промтинга приобретенные для работы с LLM моделями, могут пригодиться и для работы с нейронными сетями, которые генерируют изображения и видео.

Кроме того, сейчас есть огромное количество сервисов, которые решают какие-то узкие задачи: например, создание видео аватаров, расшифровка звуковых файлов, генерация музыки, создание 3D моделей по картинке и многие другие... Число их постоянно растет. В какой-то момент я понял, что за всем этим хозяйством не уследить в принципе, но если у вас есть конкретная задача, но лучше под нее делать небольшое исследование и тестировать имеющиеся в настоящий момент инструменты. Также подсказать по конкретике смогут наиболее свежие LLM модели.

В общем, резюмируя, у вас, как у опытного пользователя может появиться в распоряжении консультант на любую тему с огромным опытом и контекстом решаемых вами задач. А это огромное преимущество.

Кнопки “бабло” не существует!

Те, кто продает курсы из серии “Создай своего агента за 3 дня!” привлекают лозунгами, что после прохождения, вы станете профессионалом. Будете настраивать агентов, а они "сами все сделают". Но на практике, вам покажут систему визуального программирования с примером, где вы подключите, например, к телеграм чату бота, который будет с помощью голосового управления ставить вам напоминания, встречи и т.п. по сложности и полезности инструменты.

После прохождения курса может оказаться, что ничего больше буквально вы не умеете, а любая новая задача кажется такой же неподъемной и куда применить эти знания, не понимаете. И все же, для старта и это может оказаться неплохо. По крайней мере вы познакомитесь с какой-то реальной системой визуального программирования, и у вас будет рабочий пример, как соединяются функциональные элементы. И самое главное, вам расскажут про принципы управления памятью ИИ агента.

Вот чего не говорят на этих курсах, что чем дальше вы будете копать, тем сложнее все будет. А стандартные элементы позволяют решить очень ограниченный набор стандартных задач, которые не нужно решать, поскольку велосипед изобретать большого смысла нет.

А как только начинается нестандарт… оказывается, что надо думать, как организовать хранение данных, затем надо думать, как их извлекать, что-то фильтровать, какие-то соединять… и окажется, что вам под этим лозунгом продали то же самое, что раньше начинающим программистам продавали на курсах написание “Hello World”.

Я не утверждаю, что все курсы бесполезны, или что они бесполезны для всех.

Но может возникнуть иллюзия, что вы уже разобрались во всем.

На этой картинке обрыв обучение заканчивается на пике “Как же я прекрасен!”. В этой точке у человека есть иллюзия, что он все знает по теме, но на самом деле он еще “не нюхал пороха”.

Ну это я вас пугаю. На самом деле возможно, не все так плохо. И если перспектива окунуться в волшебный мир создания персональных помощников вас прельщает, то давайте начнем.