Alignedмедиа об ИИ
Войти

Инструменты

Редакция Aligned
9 ноября · 2 мин чтения
Инструменты

llama.cpp изменил выбор равных значений TOP_K: что это даёт повторяемости

В проект приняли изменение для CUDA и Metal. Оно касается конкретной операции выбора, поэтому одинаковые ответы модели на любом оборудовании пока не обещаются.

Одинаковые круглые жетоны расположены в ряд
2 просмотра
Редакция Aligned
9 ноября · 1 мин чтения
Инструменты

В llama.cpp исправили обработку некорректного UTF-8 в вызовах инструментов

Изменение от 8 ноября защищает PEG-парсер от исключения при неверных байтах в аргументах. Это исправление обработки данных, а не доказательство безопасности агента.

Керамические литеры со следами ремонта на металлическом столе
2 просмотра

Подтвердите действие