Исходное сообщение
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..." Отправлено Аноним, 09-Май-24 00:42
>RHEL AI предназначен для разработки, тестирования и выполнения систем машинного обучения на базе большой языковой модели Granite Кому нужен целый дистрибутив запуска моделей? По-моему, с этим неплохо справляется любой дистрибутив, у которого в репах есть рокм/куда и свежий питон. К тому же, дистрибутив для запуска какой-то специальной, одной модели. >на базе большой языковой модели Granite, открытой компанией IBM под лицензией Apache 2.0, способной учитывать при генерации текста до 4 тысячи токенов и охватывающей 7 миллиардов параметров. Ну, во-первых, 7 миллиардов токенов это мало для серьёзных задач (Исключение составляют лучшие на данный момент модели типа llama3), а во-вторых контекст в 4к токенов это ужасно мало. У той же лламы он 16к. Выглядит это всё как какое-то грантопильство на популярной нынче теме, если честно. Ну да и ладно, красношляпу не жалко, и её деньги тоже.

Ваше сообщение
Имя*:
EMail:	Для отправки ответов на email укажите знак ! перед адресом, например, !user@host.ru (!! - не показывать email). Более тонкая настройка отправки ответов производится в профиле зарегистрированного участника форума.
Заголовок*:
Сообщение*:	>>RHEL AI предназначен для разработки, тестирования и выполнения систем машинного обучения на базе большой языковой модели Granite > Кому нужен целый дистрибутив запуска моделей? По-моему, с этим неплохо справляется любой > дистрибутив, у которого в репах есть рокм/куда и свежий питон. К > тому же, дистрибутив для запуска какой-то специальной, одной модели. >>на базе большой языковой модели Granite, открытой компанией IBM под лицензией Apache 2.0, способной учитывать при генерации текста до 4 тысячи токенов и охватывающей 7 миллиардов параметров. > Ну, во-первых, 7 миллиардов токенов это мало для серьёзных задач (Исключение составляют > лучшие на данный момент модели типа llama3), а во-вторых контекст в > 4к токенов это ужасно мало. У той же лламы он 16к. > Выглядит это всё как какое-то грантопильство на популярной нынче теме, если честно. > Ну да и ладно, красношляпу не жалко, и её деньги тоже.
	Введите код, изображенный на картинке: