ZennoPoster + Visual Studio + какой ИИ?

  • Автор темы Автор темы Axel
  • Дата начала Дата начала
A

Axel

Client
Регистрация
20.03.2017
Сообщения
188
Реакции
10
Баллы
18
Есть ли ИИ кроме ChatGPT чтобы подключить его к Visual Studio но без лимитов на токены?
 
Безлимитно в 2026 :D
 
  • Спасибо
Реакции: devffy
Расширение для VS Code - Kilo Code, который является агентом и у него уже под капотом есть несколько бесплатных ИИ. И как выше писали - OmniRoute, который является роутером для своих моделей плюс имеет несколько предустановленных бесплатных. И вот эти 2 продукта в связке на 99.9% закрывают все потребности.
Кажется сейчас OmniRoute тоже обзавёлся своим расширением для VS Code, так что должно быть ещё проще с его настройкой.
 
  • Спасибо
Реакции: spbalexpiter
Вы имеете в виду Visual Studio или VS Code? Выше советуют расширение для VS Code, это другой редактор
 
Axel написал(а):
Есть ли ИИ кроме ChatGPT чтобы подключить его к Visual Studio но без лимитов на токены?
Нажмите для раскрытия...
Qwen3.8 flash next coder на STRATA, работает даже на 12gb vram, очень шустрая и мощная.
 
Под Visual Studio и VS Code тут разное. В VS Code проще: агентское расширение (Kilo, Roo и т.п.) и задаёшь ему любой OpenAI-совместимый endpoint. А «без лимитов» — это про бэкенд, а не про расширение: поднял локальную модель через Ollama, указал localhost — и токены не считаются вообще.
OmniRoute сам ничего не генерит, он только роутит запросы к твоим ключам, так что безлимит он не даёт, а лишь позволяет переключаться между моделями. Я для рутинных клиентских скриптов так и держу: локальная модель для простого, облачный ключ для сложного.
 
  • Спасибо
Реакции: Dmitriy_Zenno
soprano написал(а):
Qwen3.8 flash next coder на STRATA, работает даже на 12gb vram, очень шустрая и мощная.
Нажмите для раскрытия...
на 16 гигах через гермес кли ползет - 2 дня с жпт настраивал - простой код пишет по 10 минут - зависает. видаха норм 4080 супер 16 гиг. опертивка 64 гига - колроче машина нормальная. хотел 3090 на 24 гига добавить но думаю мало толку будет! ищу что то типа курсора но чтоб с минимумо отказов! а то постоянно ругается на все подряд этот курсор - любая нейронка - это автоматизация я не буду помогать - так блин я т и делаю автоматизацию)))
 
Jufel написал(а):
Расширение для VS Code - Kilo Code, который является агентом и у него уже под капотом есть несколько бесплатных ИИ. И как выше писали - OmniRoute, который является роутером для своих моделей плюс имеет несколько предустановленных бесплатных. И вот эти 2 продукта в связке на 99.9% закрывают все потребности.
Кажется сейчас OmniRoute тоже обзавёлся своим расширением для VS Code, так что должно быть ещё проще с его настройкой.
Нажмите для раскрытия...
А Kilo Code с C# сниппетами для зенки нормально справляется? Или он больше под веб заточен
 
sitemapfox написал(а):
А Kilo Code с C# сниппетами для зенки нормально справляется? Или он больше под веб заточен
Нажмите для раскрытия...
Kilo Code это обычный AI агент с примерно таким же функционалом, как и у подобных ему (Cline, Cursor, Github copilot...) Как будет справляться с C# и зенкой - это уже больше от самой модели будет зависеть
 
dongo2001 написал(а):
на 16 гигах через гермес кли ползет - 2 дня с жпт настраивал - простой код пишет по 10 минут - зависает. видаха норм 4080 супер 16 гиг. опертивка 64 гига - колроче машина нормальная. хотел 3090 на 24 гига добавить но думаю мало толку будет! ищу что то типа курсора но чтоб с минимумо отказов! а то постоянно ругается на все подряд этот курсор - любая нейронка - это автоматизация я не буду помогать - так блин я т и делаю автоматизацию)))
Нажмите для раскрытия...

Моя локальная AI-связка​


Программная часть:
  • Движок: Strata 0.2.7 — бесплатный локальный запуск моделей.
  • Модель: Qwen3.8-Flash-Next GSQ-RCO IQ3_XXS.
  • Агент: OpenCode v2.2.0 — подключён к Strata через локальный хост и порт 8080.

Конфигурация Strata:
  • Контекст: 131 072 токена (128K).
  • KV-cache: INT8.
  • KV-resident: 32 768.
  • Speculative decoding: 4.
  • Expert Cache: Auto.
  • Prefill: Auto.
  • Vision: включён.

Железо:
  • CPU: AMD Ryzen 9 5950X (16 ядер / 32 потока).
  • GPU: NVIDIA GeForce RTX 4070 Ti SUPER 16 GB.
  • RAM: 64 GB DDR4-3600.

Производительность:
  • Скорость генерации: 75–130 токенов/с.
Всё работает локально на собственном компьютере, без облачных моделей и платных API.
 
Последнее редактирование:
  • Спасибо
Реакции: ИмяРек, crocodile и Sergodjan
samsonnn написал(а):

​


Железо:
  • CPU: AMD Ryzen 9 5950X (16 ядер / 32 потока).
  • GPU: NVIDIA GeForce RTX 4070 Ti SUPER 16 GB.
  • RAM: 64 GB DDR4-3600.

Производительность:
  • Скорость генерации: 75–130 токенов/с.
Всё работает локально на собственном компьютере, без облачных моделей и платных API.
Нажмите для раскрытия...
И сколько это установка стоит?
Куда проще взять подписку на chatgpt и использовать лимиты через omniroute, причем 6-я версия на сегодня сильно лучше 5рки. Есть ещё возможность использовать бесплатные лимиты для определенных задач от gemini например.
 
pe4enkin написал(а):
И сколько это установка стоит?
Куда проще взять подписку на chatgpt и использовать лимиты через omniroute, причем 6-я версия на сегодня сильно лучше 5рки. Есть ещё возможность использовать бесплатные лимиты для определенных задач от gemini например.
Нажмите для раскрытия...
Как то видео смотрел - ребята собрали аппарат под GLM 5.2
Погоняли. Потом посчитали стоимость железа, электричества - получалась окупаемость через 150 лет :D
 
  • Огонь
  • Спасибо
Реакции: ИмяРек и pe4enkin
pe4enkin написал(а):
И сколько это установка стоит?
Куда проще взять подписку на chatgpt и использовать лимиты через omniroute, причем 6-я версия на сегодня сильно лучше 5рки. Есть ещё возможность использовать бесплатные лимиты для определенных задач от gemini например.
Нажмите для раскрытия...

Установка бесплатная. Strata, OpenCode и сама модель - бесплатно. Платишь только своим временем на настройку и электричеством.

ChatGPT и Gemini - хорошие варианты, никто не спорит. Если устраивает подписка, облачная обработка и доступные лимиты - почему нет.

Я показал альтернативу для тех, кому интересна полностью локальная работа: без подписок, оплаты токенов и отправки своего кода в облако. К тому же всё работает на уже имеющемся железе.

Каждому своё. Я просто поделился рабочей конфигурацией, проверенной на практике.
 
  • Спасибо
Реакции: ИмяРек, Sergodjan и pe4enkin
Oleg1987 написал(а):
Как то видео смотрел - ребята собрали аппарат под GLM 5.2
Погоняли. Потом посчитали стоимость железа, электричества - получалась окупаемость через 150 лет :D
Нажмите для раскрытия...
Смотря где ставить, условно в Германии может вообще даже за 150 лет не окупить, а вот в Эфиопии возможно куда быстрее будет.
Блин когда то даже взял пару видеокарт под майнинг, было 4 штуки, они окупились, 2 продал ещё когда эфириум ушёл на пос ещё 2 пылятся до сих пор на балконе это 3080 и rx 6700. Причем зимой отапливали и сушили балкон:-)
 
  • Спасибо
Реакции: ИмяРек
samsonnn написал(а):

Моя локальная AI-связка​


Программная часть:
  • Движок: Strata 0.2.7 — бесплатный локальный запуск моделей.
  • Модель: Qwen3.8-Flash-Next GSQ-RCO IQ3_XXS.
  • Агент: OpenCode v2.2.0 — подключён к Strata через локальный хост и порт 8080.

Конфигурация Strata:
  • Контекст: 131 072 токена (128K).
  • KV-cache: INT8.
  • KV-resident: 32 768.
  • Speculative decoding: 4.
  • Expert Cache: Auto.
  • Prefill: Auto.
  • Vision: включён.

Железо:
  • CPU: AMD Ryzen 9 5950X (16 ядер / 32 потока).
  • GPU: NVIDIA GeForce RTX 4070 Ti SUPER 16 GB.
  • RAM: 64 GB DDR4-3600.

Производительность:
  • Скорость генерации: 75–130 токенов/с.
Всё работает локально на собственном компьютере, без облачных моделей и платных API.
Нажмите для раскрытия...
супер ща буду делать у меня ничего не вышло. 2 модели ставил 1793444645517.png через гермерс работу настраивал - нифига - запрос простой а он вечность выполняет - что то типа напиши 500 слов про космос - ив бесконечность! вчера поставил опенкод там 40 баксов подписка и Venice AIткда еще влупил там 68 баксов подписка.
ЖЕЛЕЗО
  • CPU: Intel i7-14700KF.
  • GPU: RTX 4080 SUPER 16 GB.
  • RAM: 64 GB.
  • ОС: Windows 11.
 
dongo2001 написал(а):
супер ща буду делать у меня ничего не вышло. 2 модели ставил Посмотреть вложение 144654 через гермерс работу настраивал - нифига - запрос простой а он вечность выполняет - что то типа напиши 500 слов про космос - ив бесконечность! вчера поставил опенкод там 40 баксов подписка и Venice AIткда еще влупил там 68 баксов подписка.
ЖЕЛЕЗО
  • CPU: Intel i7-14700KF.
  • GPU: RTX 4080 SUPER 16 GB.
  • RAM: 64 GB.
  • ОС: Windows 11.
Нажмите для раскрытия...

Все работает не каких проблем

1793463260434.png

1793463206798.png
 
  • Спасибо
  • Огонь
Реакции: ИмяРек, Sergodjan, n0n3mi1y и ещё 1 человек
samsonnn написал(а):
Все работает не каких проблем
Нажмите для раскрытия...
какую именно Qwen3.8-Flash-Next GSQ-RCO IQ3_XXS ты скачал их куча может в этом дело 0- просто ее вес напиши может этого будет достаточно чтоб найти. а то мой курсор начал качать оф версию на 82 гига
 
dongo2001 написал(а):
какую именно Qwen3.8-Flash-Next GSQ-RCO IQ3_XXS ты скачал их куча может в этом дело 0- просто ее вес напиши может этого будет достаточно чтоб найти. а то мой курсор начал качать оф версию на 82 гига
Нажмите для раскрытия...
написал в лс
 
samsonnn написал(а):

Моя локальная AI-связка​


Программная часть:
  • Движок: Strata 0.2.7 — бесплатный локальный запуск моделей.
  • Модель: Qwen3.8-Flash-Next GSQ-RCO IQ3_XXS.
  • Агент: OpenCode v2.2.0 — подключён к Strata через локальный хост и порт 8080.

Конфигурация Strata:
  • Контекст: 131 072 токена (128K).
  • KV-cache: INT8.
  • KV-resident: 32 768.
  • Speculative decoding: 4.
  • Expert Cache: Auto.
  • Prefill: Auto.
  • Vision: включён.

Железо:
  • CPU: AMD Ryzen 9 5950X (16 ядер / 32 потока).
  • GPU: NVIDIA GeForce RTX 4070 Ti SUPER 16 GB.
  • RAM: 64 GB DDR4-3600.

Производительность:
  • Скорость генерации: 75–130 токенов/с.
Всё работает локально на собственном компьютере, без облачных моделей и платных API.
Нажмите для раскрытия...
спасибо за информацию,
повторил связку, вот результаты
  • CPU: AMD Ryzen 7 7700
  • GPU: NVIDIA GeForce RTX 3060 12 GB.
  • RAM: 64 GB DDR5-6000.
Производительность:
  • Скорость генерации: от 60 до 80 токенов/с.
 
  • Спасибо
  • Огонь
Реакции: ИмяРек, sitemapfox, Sergodjan и 2 других
Мне кажется, проседать она будет на длинном контексте, когда скармливаешь проект целиком, там 12 ГБ быстро заканчиваются.
 
crocodile написал(а):
спасибо за информацию,
повторил связку, вот результаты
  • CPU: AMD Ryzen 7 7700
  • GPU: NVIDIA GeForce RTX 3060 12 GB.
  • RAM: 64 GB DDR5-6000.
Производительность:
  • Скорость генерации: от 60 до 80 токенов/с.
Нажмите для раскрытия...
Отличный результат тоже. :dq:
Какую модель ИИ используете?
 
  • Спасибо
Реакции: ИмяРек
samsonnn написал(а):

Моя локальная AI-связка​


Программная часть:
  • Движок: Strata 0.2.7 — бесплатный локальный запуск моделей.
  • Модель: Qwen3.8-Flash-Next GSQ-RCO IQ3_XXS.
  • Агент: OpenCode v2.2.0 — подключён к Strata через локальный хост и порт 8080.

Конфигурация Strata:
  • Контекст: 131 072 токена (128K).
  • KV-cache: INT8.
  • KV-resident: 32 768.
  • Speculative decoding: 4.
  • Expert Cache: Auto.
  • Prefill: Auto.
  • Vision: включён.

Железо:
  • CPU: AMD Ryzen 9 5950X (16 ядер / 32 потока).
  • GPU: NVIDIA GeForce RTX 4070 Ti SUPER 16 GB.
  • RAM: 64 GB DDR4-3600.

Производительность:
  • Скорость генерации: 75–130 токенов/с.
Всё работает локально на собственном компьютере, без облачных моделей и платных API.
Нажмите для раскрытия...
Впечатляет.
crocodile написал(а):
спасибо за информацию,
повторил связку, вот результаты
  • CPU: AMD Ryzen 7 7700
  • GPU: NVIDIA GeForce RTX 3060 12 GB.
  • RAM: 64 GB DDR5-6000.
Производительность:
  • Скорость генерации: от 60 до 80 токенов/с.
Нажмите для раскрытия...
Тоже неплохо.

Поэкспериментировал на своей машинке с RTX 3060 12 Гб +32 Гб памяти - получил 15-20 т/сек на задаче генерации C#.
Использовал модельку qwen 3.6 35b, так как 3.8 не поместилась.
Собираюсь на днях докупить памяти до 64 Гб и продолжить эксперименты.

Кстати, а Полистрата никто не пробовал?
 
Последнее редактирование:
  • Огонь
Реакции: Sergodjan
По своей практике скажу так: у нас в агентстве схема смешанная. Простые хелперы и мелкие C#-сниппеты для зенки гоняем на локальной модели класса Qwen через Ollama, а сложный рефакторинг отдаём облачной модели. Для этого VS Code с агентским расширением реально удобнее, чем полная Visual Studio. На «безлимит» смотрю трезво: обычно это либо локалка, либо твой собственный ключ через OpenAI-совместимый endpoint, а бесплатного облака без ограничений не бывает. Кстати, на отказы у Cursor-подобных тулов (dongo2001, это про тебя) локальная модель как раз помогает: она не ругается на слово «автоматизация». Но проверять код после неё всё равно приходится руками, особенно если он уходит в боевой проект.
 
  • Спасибо
Реакции: Dmitriy_Zenno
Я для зенковских C#-хелперов обычно смешиваю: простые вещи (сниппеты, регулярки, мелкие правки) гоняю на локальной модели типа Qwen через Ollama, а сложные рефакторинги отдаю облачной. Полная Visual Studio для этого неудобна, в VS Code с агентским расширением всё проще и быстрее настраивается. «Безлимит» по токенам почти всегда значит либо локальную модель, либо свой OpenAI-совместимый endpoint, других честных вариантов я не встречал. По поводу отказов в Cursor и подобных: они часто ругаются на слово «автоматизация», и тут как раз выручает локальная модель, которой всё равно, что ты просишь. Но на 16 ГБ видеопамяти лучше брать модель поменьше или квантованную, иначе будет ползти. Проверять сгенерированный код всё равно надо руками, особенно работу с проектными переменными.
 
Войдите или зарегистрируйтесь для ответа.

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)

Сверху Снизу