API шаблоны генерации текста в ИИ: OpenAI, Gemini, Claude, YandexGPT и Mistral

[Germango]

Шаблоны post запросов к языковым моделям.
При работе с языковыми моделями часто возникает проблема: поиск корректного запроса может занять часы. Подготовлены шаблоны API-запросов к разным языковым моделям.

Что внутри?

• Готовые запросы для 5 языковых моделей.
• Возможность выбора модели и настройки параметров.
• Автоматическая генерация и сохранение результатов в логах и текстовых файлах.

Как это работает?

1. Добавляем в текстовый файл ваши промпты.
2. Выбираем нужную языковую модель и добавляем ее api.
3. Запускаем процесс и получаем результаты.

Спойлер: Где получить API?

• OpenAI
• Gemini
• Claude
• Yandex
• Mistral

Спойлер: Особенности YandexGPT

Для YandexGPT, помимо API ключа нужно указывать ID каталога. В шаблоне формат реализован через знак двоеточия.

 

[BAZAg]

Спасибо за решение!
Как раз задумывался себе над тем, чтобы иметь такую подборку запросов к API AI.
Сохраню себе закладку на статью!

 

[udder]

Благодарю, жаль не были затронуты LM Studio или Ollama для работы с локальным вариантом AI

 

[radv]

Благодарю, жаль не были затронуты LM Studio или Ollama для работы с локальным вариантом AI

у некоторых локальных вариантов тоже бывает API через localhost (но не у всех). Смотрите документацию и делайте по аналогии

Сам не подключал, но возможность такую виделл. например в GPT4All

 

[igoreff]

Спасибо, полезный наборчик. Не подскажите а у Mistral API тоже платный?

 

[Germango]

Спасибо, полезный наборчик. Не подскажите а у Mistral API тоже платный?

Mistral можно пользоваться бесплатно, для создания API достаточна регистрация в сервисе. Никаких привязок карт или прочего не требуется.

 

[taratova]

Добрый день интересный шаблон сделал акк в Mistral, задаю пронт а он мне такой текст выдает с всякими \\\****n и тд как получать чистый текст? или надо играться в промтах? ваши промты работают нормально без ошибок, а мои чета вот такие всякий мусор в тексте

 

[Germango]

такой текст выдает с всякими \\\****n и тд как получать чистый текст? или надо играться в промтах? ваши промты работают нормально без ошибок, а мои чета вот такие всякий мусор в тексте

Mistral оформляет ваш текст в Markdown.

• ### - подзаголовок 3-го уровня
• \" - экранирование кавычек
• ** - жирность
• \n - перенос строки.

Я бы еще посмотрел на промпт, чтобы сказать точнее. В целом - да, если хотите убрать оформление, то поиграться с промптом (или чистить регуляркой). Вот примеры текста для дополнения ваших текущих промптов:

Generate a clean version of the text by removing any formatting symbols like \\***** and other non-text characters. Keep only the plain content without any special characters or formatting.

или

Напиши текст без разметки Markdown, спецсимволов (\, *, #) и переносов строк в виде \n. Используй только обычные пробелы между словами. Ответ должен быть чистым, без оформления.

 

[taratova]

а остальные ай сервисы типо chatgpt пишет без этих спец символов?

 

[Germango]

а остальные ай сервисы типо chatgpt пишет без этих спец символов?

Они все напишут со спецсимволами или без - от текста промпта зависит. Какая будет для ИИ задача - такой будет результат. Если что - отправляйте текущий промпт и желаемый результат, посмотрим как/что можно скорректировать.

 

[taratova]

You are a musician. Write an article, max 500 words (based on personal experience in the past) in the first person about the program zedge. Write in simple, informal and easy language, the text should motivate to buy the product, but do not explicitly indicate this. Write the text without Markdown, special characters

вот промт, но все самый лучший что я добился, но все равно вылазит переменая \n\n никак не могу избавиться от нее

 

[Germango]

You are a musician. Write an article, max 500 words (based on personal experience in the past) in the first person about the program zedge. Write in simple, informal and easy language, the text should motivate to buy the product, but do not explicitly indicate this. Write the text without Markdown, special characters

вот промт, но все самый лучший что я добился, но все равно вылазит переменая \n\n никак не могу избавиться от нее

Скорректированный промпт:

You are a musician. Write a text, max 500 words (based on personal experience in the past) in the first person about the program zedge. Write in simple, informal and easy language, the text should motivate to buy the product, but do not explicitly indicate this. Write the text without Markdown, special characters and this \n line breaks. All text must be continuous on one line.

Результат:

 

[igoreff]

Мне кажется, что все таки лучше заменами сделать, а то так простыня текста, потом как форматировать. Проблема вот заметил текст обрывает, вроде раньше не было такого по API.

 

[Germango]

Мне кажется, что все таки лучше заменами сделать, а то так простыня текста, потом как форматировать.

Да, но вопрос был другой, а именно - оставить только текст, без "мусора".
Также не всегда нужны портянки текста, в личной работе к примеру часто нужно получить в качестве результата 1-2 слова или короткую фразу до 10-15 слов. Поэтому всё от задачи зависит.

Проблема вот заметил текст обрывает, вроде раньше не было такого по API.

Где? Скорее всего количество токенов установлено малое в настройках запроса для вашего промпта. Регулируется здесь

 

[taratova]

Скорректированный промпт:

Результат:
Посмотреть вложение 132123

Да так на много лучше) но мне нужна чтобы первая строка была как тайтл и шла отдельно он текста, чтобы при загрузке в программу первая строка идет как тайтл статьи, чета никак не могу разделить текст) обычным пробелом) Можете помочь? досаставить промт) Вот такой формат на выходе нужен) ну и чтобы тайтл был 5-15 слов)

 

[Germango]

Да так на много лучше) но мне нужна чтобы первая строка была как тайтл и шла отдельно он текста, чтобы при загрузке в программу первая строка идет как тайтл статьи, чета никак не могу разделить текст) обычным пробелом) Можете помочь? досаставить промт) Вот такой формат на выходе нужен) ну и чтобы тайтл был 5-15 слов)
Посмотреть вложение 132139

В таком случае нужна постобработка текста и корректировка промпта. Как говорилось выше:

Мне кажется, что все таки лучше заменами сделать, а то так простыня текста, потом как форматировать.

Вот обновленный промпт под вашу задачу

You are a musician. Write a title and text, maximum 500 words (based on personal experience in the past) in the first person about the zedge program. Write in simple, informal and easy language, the text should motivate to buy the product, but do not state it explicitly. The title should be up to 15 words and separated from the main text by a double line break. Write the text without Markdown, special characters and \n line breaks. All text should be continuous on one line.

Вот результат после стандартной замены

Теперь, чтобы отделить заголовок от текста вам нужно добавить еще 1 кубик с заменой. Вариантов масса, вот один из них:

Спойлер: C# кубик

project.Variables["post"].Value = Regex.Replace(project.Variables["post"].Value, @"\\n\\n", "\n");

Результат:

 

[taratova]

Спасибо! помогло) посмотрим насколько хватит бесплатно делать статейки)

 

[Germango]

Спасибо! помогло) посмотрим насколько хватит бесплатно делать статейки)

Для статей Мистраль возможно не лучший выбор, есть альтернативы, которые делают текст намного качественнее. Модели Gemini 1.5 и 2.0 к примеру лучше чем Mistral (по личным тестам). DeepSeek лучше Gemini, но дольше "думает". Если интересно попробовать другие модели, то по примеру одного из шаблонов post запросов можно сделать вариант запроса к IOnet провайдеру и через него отправлять запросы к ряду условно-бесплатных моделей (включая DeepSeek, Qwen, Llama и тот-же Mistral).

 

[BAZAg]

Спасибо! помогло) посмотрим насколько хватит бесплатно делать статейки)

Отпишетесь здесь о результатах?

 

[taratova]

Отпишетесь здесь о результатах?

статьи пишуться, но без индексатора не заходят в индекс, вот поставил 200 статей на индекс попоже отпишусь сколько зайдут