ZennoPoster + Visual Studio + какой ИИ?

  • Автор темы Автор темы Axel
  • Дата начала Дата начала

Axel

Client
Регистрация
20.03.2017
Сообщения
185
Реакции
10
Баллы
18
Есть ли ИИ кроме ChatGPT чтобы подключить его к Visual Studio но без лимитов на токены?
 
Безлимитно в 2026 :D
 
  • Оценить
Реакции: devffy
Расширение для VS Code - Kilo Code, который является агентом и у него уже под капотом есть несколько бесплатных ИИ. И как выше писали - OmniRoute, который является роутером для своих моделей плюс имеет несколько предустановленных бесплатных. И вот эти 2 продукта в связке на 99.9% закрывают все потребности.
Кажется сейчас OmniRoute тоже обзавёлся своим расширением для VS Code, так что должно быть ещё проще с его настройкой.
 
  • Оценить
Реакции: spbalexpiter
Вы имеете в виду Visual Studio или VS Code? Выше советуют расширение для VS Code, это другой редактор
 
Есть ли ИИ кроме ChatGPT чтобы подключить его к Visual Studio но без лимитов на токены?
Qwen3.8 flash next coder на STRATA, работает даже на 12gb vram, очень шустрая и мощная.
 
Под Visual Studio и VS Code тут разное. В VS Code проще: агентское расширение (Kilo, Roo и т.п.) и задаёшь ему любой OpenAI-совместимый endpoint. А «без лимитов» — это про бэкенд, а не про расширение: поднял локальную модель через Ollama, указал localhost — и токены не считаются вообще.
OmniRoute сам ничего не генерит, он только роутит запросы к твоим ключам, так что безлимит он не даёт, а лишь позволяет переключаться между моделями. Я для рутинных клиентских скриптов так и держу: локальная модель для простого, облачный ключ для сложного.
 
  • Оценить
Реакции: Dmitriy_Zenno
Qwen3.8 flash next coder на STRATA, работает даже на 12gb vram, очень шустрая и мощная.
на 16 гигах через гермес кли ползет - 2 дня с жпт настраивал - простой код пишет по 10 минут - зависает. видаха норм 4080 супер 16 гиг. опертивка 64 гига - колроче машина нормальная. хотел 3090 на 24 гига добавить но думаю мало толку будет! ищу что то типа курсора но чтоб с минимумо отказов! а то постоянно ругается на все подряд этот курсор - любая нейронка - это автоматизация я не буду помогать - так блин я т и делаю автоматизацию)))
 
Расширение для VS Code - Kilo Code, который является агентом и у него уже под капотом есть несколько бесплатных ИИ. И как выше писали - OmniRoute, который является роутером для своих моделей плюс имеет несколько предустановленных бесплатных. И вот эти 2 продукта в связке на 99.9% закрывают все потребности.
Кажется сейчас OmniRoute тоже обзавёлся своим расширением для VS Code, так что должно быть ещё проще с его настройкой.
А Kilo Code с C# сниппетами для зенки нормально справляется? Или он больше под веб заточен
 
А Kilo Code с C# сниппетами для зенки нормально справляется? Или он больше под веб заточен
Kilo Code это обычный AI агент с примерно таким же функционалом, как и у подобных ему (Cline, Cursor, Github copilot...) Как будет справляться с C# и зенкой - это уже больше от самой модели будет зависеть
 
на 16 гигах через гермес кли ползет - 2 дня с жпт настраивал - простой код пишет по 10 минут - зависает. видаха норм 4080 супер 16 гиг. опертивка 64 гига - колроче машина нормальная. хотел 3090 на 24 гига добавить но думаю мало толку будет! ищу что то типа курсора но чтоб с минимумо отказов! а то постоянно ругается на все подряд этот курсор - любая нейронка - это автоматизация я не буду помогать - так блин я т и делаю автоматизацию)))

Моя локальная AI-связка​


Программная часть:
  • Движок: Strata 0.2.7 — бесплатный локальный запуск моделей.
  • Модель: Qwen3.8-Flash-Next GSQ-RCO IQ3_XXS.
  • Агент: OpenCode v2.2.0 — подключён к Strata через локальный хост и порт 8080.

Конфигурация Strata:
  • Контекст: 131 072 токена (128K).
  • KV-cache: INT8.
  • KV-resident: 32 768.
  • Speculative decoding: 4.
  • Expert Cache: Auto.
  • Prefill: Auto.
  • Vision: включён.

Железо:
  • CPU: AMD Ryzen 9 5950X (16 ядер / 32 потока).
  • GPU: NVIDIA GeForce RTX 4070 Ti SUPER 16 GB.
  • RAM: 64 GB DDR4-3600.

Производительность:
  • Скорость генерации: 75–130 токенов/с.
Всё работает локально на собственном компьютере, без облачных моделей и платных API.
 
Последнее редактирование:
  • Оценить
Реакции: Sergodjan

​


Железо:
  • CPU: AMD Ryzen 9 5950X (16 ядер / 32 потока).
  • GPU: NVIDIA GeForce RTX 4070 Ti SUPER 16 GB.
  • RAM: 64 GB DDR4-3600.

Производительность:
  • Скорость генерации: 75–130 токенов/с.
Всё работает локально на собственном компьютере, без облачных моделей и платных API.
И сколько это установка стоит?
Куда проще взять подписку на chatgpt и использовать лимиты через omniroute, причем 6-я версия на сегодня сильно лучше 5рки. Есть ещё возможность использовать бесплатные лимиты для определенных задач от gemini например.
 
И сколько это установка стоит?
Куда проще взять подписку на chatgpt и использовать лимиты через omniroute, причем 6-я версия на сегодня сильно лучше 5рки. Есть ещё возможность использовать бесплатные лимиты для определенных задач от gemini например.
Как то видео смотрел - ребята собрали аппарат под GLM 5.2
Погоняли. Потом посчитали стоимость железа, электричества - получалась окупаемость через 150 лет :D
 
  • Огонь
Реакции: pe4enkin
И сколько это установка стоит?
Куда проще взять подписку на chatgpt и использовать лимиты через omniroute, причем 6-я версия на сегодня сильно лучше 5рки. Есть ещё возможность использовать бесплатные лимиты для определенных задач от gemini например.

Установка бесплатная. Strata, OpenCode и сама модель - бесплатно. Платишь только своим временем на настройку и электричеством.

ChatGPT и Gemini - хорошие варианты, никто не спорит. Если устраивает подписка, облачная обработка и доступные лимиты - почему нет.

Я показал альтернативу для тех, кому интересна полностью локальная работа: без подписок, оплаты токенов и отправки своего кода в облако. К тому же всё работает на уже имеющемся железе.

Каждому своё. Я просто поделился рабочей конфигурацией, проверенной на практике.
 
  • Оценить
Реакции: Sergodjan и pe4enkin
Как то видео смотрел - ребята собрали аппарат под GLM 5.2
Погоняли. Потом посчитали стоимость железа, электричества - получалась окупаемость через 150 лет :D
Смотря где ставить, условно в Германии может вообще даже за 150 лет не окупить, а вот в Эфиопии возможно куда быстрее будет.
Блин когда то даже взял пару видеокарт под майнинг, было 4 штуки, они окупились, 2 продал ещё когда эфириум ушёл на пос ещё 2 пылятся до сих пор на балконе это 3080 и rx 6700. Причем зимой отапливали и сушили балкон:-)
 

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)