Недавний контент promusik

Кто какие модели юзает локально? Опрос делать не буду, давайте в комментах обсудим? Я смотрел на deepseek-r1:14b, запускал в паре вместе с thinkverse/towerinstruct, используя последнюю для перевода промпта и ответа. В итоге deepseek-r1:14b очень много говна льет и долго рассуждает... 80-95%...

Если бы у вас был хороший бот, то вам бы не нужно было его продавать т.к. доходы у вас были бы очень крупными. А если вы спамите на форуме, пытаясь его хоть чуточку продать - значит он или не приносит прибыли вообще или приносит, но микроскопическую на грани фола. Так что можете грузить себе...

А, не, есть решение проще - добавляешь в игнор и постов этого автора ты более не видишь

Спасибо за то что ткнул. У меня Firefox и uBlock Origin. Настрою правила - напишу, может кому пригодятся

Приветствую всех! Идут годы и форум превращается в рекламную помойку. Вроде сидят здесь клиенты, которые деньги занесли. Но открываешь "Новые темы", а там 90% рекламы! Даже дельные вопросы людей и реально интересные темы не найти - одна реклама. То прокси, то аккаунты, то всё что угодно...

Поднял на сервере с proxmox. Моя история - предыдущее сообщение

GRASS итоги: поднял 10 виртуалок, заблочил весь трафик кроме грасовского. По данным проксимаркета они жрали 400-600 мегабайт в сутки (при стоимости 365 рублей за гигабайт). Собственно тема крайне не выгодная. Не знаю что там у вас в зенках, но в виртуалках с их grass app трафик куда-то улетал. И...

А что вы с прокси делаете? Просто сам IP стоит конских денег получается... Или нужно брать 200 Pay as you go на 200 потоков? Я про то: какие прокси взять если у меня к примеру 200 потоков будет? Или нужно прямо резиденстские IP брать статичные и 1ip = 1акк? Тогда ценник вообще в космос улетит...

в бан за что улетел? Ты уже агрессировал рекламой?

https://github.com/LostRuins/koboldcpp/issues/24 Это ответ на мой вопрос. Вкраце: разрабы специально зашили ограничение. Больше 1024 не сделать вроде даже через вебку. Но мнехотя бы api до 1024 увеличить, но этого все равно мало.

Как заставить kobolt выдавать результат более 512 токенов по api? Вроде в json прописываю и max_tokens, а он игнорирует и все

Тип сам с собой переписывается вообще не по теме форума. Когда уже эту тему прикроют, а пользаков блокнут?

Севрерка хороша тем что она рассчитана на работу 24/7, а не как 10, которая внезапно может уйти в ребут из-за очередного говнообновления, хотя ты все отключал, но как выяснилось - не все

Прикольно сообщения-отзывы от ботов читать

Чё там? Бабок нет?