Рубрики
IT - разное Обучение

Тренажер слепой печати RUTYPE_

Полтора года назад, когда я переосваивал навык десятипальцевой слепой печати на клавиатуре, среди прочих сайтов и сервисов по тренировкам и проверкам скорости набора мне повстречался сайт https://zty.pe. Он был хорош. Минимализм, игровая составляющая. Единственное, что не пришлось мне по душе это доступный для игры только английский язык. Его набор я тоже немного осваивал, но он был не в приоритете. Тогда я подумал — как здорово было бы иметь подобную игрушку с возможностью использовать русский язык.

Эта идея в тот момент осталась где-то на задворках сознания. Как и множество других. Не хватало навыков и умений, нужно было выделить значительный кусок времени, которого тоже обычно не хватает. Поэтому все откладывалось на когда-нибудь потом.

Эпоха вайбкодинга и рождение RUTYPE_

Затем наступила эпоха вайбкодинга. И вот, спустя полтора года, когда у меня появилось немного свободного времени и возможность пробовать реализовывать различные идеи и необычные штуки, в том числе в виде интерактивных онлайн-страниц и приложений, мысли вернулись к этой теме.

За основу внешнего вида и механики игры я взял упомянутую выше игру, но в качестве языка по умолчанию выбрал русский. С возможностью добавлять и другие. Сейчас там доступны также английский и украинский.

В работе над проектом мне помогал чат-бот Claude, который, на мой взгляд, из бесплатных аналогов сейчас лучше всего справляется с написанием кода и созданием архитектуры программ. Он же придумал и название, которое мне показалось весьма удачным, поэтому оно и осталось.

Рубрики
IT - разное Обучение Онлайн курсы

Как я создавал свой каталог курсов Stepik

Общаться с коллегами крайне полезно. Глупо считать, что ты самый умный и все знаешь лучше всех (иногда есть такой соблазн, но его надо душить на корню). Особенно если ты преподаватель и учишь других. Невозможно это нормально делать, если сам не учишься постоянно, не развиваешься и не стремишься стать лучше и узнать что-то новое, актуальное. Как в сфере своих интересов так и в смежных.

Поэтому, одно из мест, где я сижу, это канал Степика для преподавателей в телеграме. Там в основном авторы платных курсов и из разговоров, преимущественно, темы о том, что с продажами, где найти покупателей, как организовать рекламу и прочие подробности внутренней кухни преподавателей-продажников. Иногда еще возникают небольшие холивары про влияние искусственного интеллекта на образование и, как следствие, будущие перспективы онлайн-курсов.

Во время очередной дискуссии один из преподавателей выложил скрин:

Мне он прям очень понравился. С первого взгляда я оценил удобства, которые может дать подобный дашборд для управления большим количеством курсов (их у меня 25 на текущий момент, на секундочку). Понравился да и понравился, сколько всего интересно каждый день встречаешь в сети? Правильно, много, обрабатывать не успеваешь. Очень много. А тут еще очередные новости на Хабре про новые модели искусственного интеллекта то тут, то там. Мне показалось, что стоит расширить кругозор и отойти от слегка приевшейся гугловской Gemini. Особенно в свете урезания лимитов на нее и кажущейся небольшой деградации актуальных бесплатных моделей.

Для меня вайбкодинг не есть чем-то новым. Про разные его аспекты я уже неоднократно писал ранее (Вайбкодинг для ленивых: читаем видео на YouTube, Автоматизация создания тестов: связка NotebookLM + Gemini + Google Apps Script, Вайбкодинг: плагин для Obsidian). Но ранее я ограничивался локальными моделями для некоторых тестов (Эксперименты с локальной LLM Gemma 4) и гугловской Gemini (в основном для работы). Захотелось поэкспериментировать с чем-то еще. Тем более все уши в новостях прожужжали и про новую GLM 5.2, и про Kimi K3… А я то еще даже с Claude еще ничего не делал. При том, что ее считают одной из лучших по работе с кодом.

В свете этого всего, однажды вечером (точнее, поздней ночью или даже ранним утром) я открыл Claude.ai и тамошний чат с Sonnet. Вспомнил про тот самый скриншот из телеграма и подумал — почему бы не сделать что-то подобное? У меня уже был опыт работы с API Степика, я имел представление как он работает и что можно из него вытащить полезного. Фронтендом займется Клод, да и внутренностями тоже. Мое дело будет лишь оценивать в общих чертах результаты и выискивать потенциальные косяки и ошибки.

Рубрики
IT - разное

Браузерная рутина

В нашем Дискорде регулярно всплывает тема вкладок в браузере. Точнее количества открытых вкладок, необходимости держать их открытыми и все, что с этим связано. Хотя да, пожалуй, это я с завидным постоянством поднимаю эту тему. Обычно в те моменты, когда решаю, что хватит так дальше жить и пытаюсь радикально уменьшить их количество.

Дело в том, что я из числа тех людей, которые любят открывать вкладки и не любят их закрывать. Есть вариант переносить в закладки, но мы же с вами понимаем, что вкладки можно переносить в закладки, но нельзя их оттуда достать. Перенести страницу в закладки браузера в большинстве случаев означает «с глаз долой из сердца вон». То есть больше мы к этой странице никогда не вернемся. Не считая отдельных исключений.

Поэтому, если открытая вкладка мне кажется ценной по какой-либо причине, я оставляю ее открытой, пока не «обработаю», что бы это не означало. Обрабатывать сложно, долго и вообще лень. Поэтому открытые вкладки накапливаются. Насколько накапливаются, чтобы вы понимали:

На скрине 1151 вкладка. Сделано только что, хотя сессия, как и сам браузер (Firefox 18) мной не используется и лежит как дань памяти прошлому (да-да, я все еще надеюсь разобрать эти вкладки, хотя реальность такова, что половина из них уже мертва).

Рубрики
IT - разное

Gemini научился создавать файлы

В последнее время я активно пользуюсь гугловским ИИ под названием Gemini. В прошлом году попробовал его наряду с ChatGPT и Grok и результаты были более чем удовлетворительными. А плюсом оказалось отсутствие необходимости авторизоваться (в отличии от ChatGPT). У меня возникал вопрос и я мог просто вбить в гугл Gemini, открыть страницу с чатом, спросить и получить ответ. В любом месте, в любое время. Еще и без лимитов. По крайней мере, в отличии от ChatGPT, я не смог в такие лимиты упереться при использовании.

Небольшая историческая ремарка. А ведь когда-то, когда Gemini еще был Bard, я его попробовал, ужаснулся и решил, что у гугла не сложилось. Как оказалось, неудача не сломила корпорацию добра. Произвели ребрендинг, активно развивали, удачно встроили в свою экосистему и теперь Gemini уверенно отбирает свою нишу рынка чат-ботов у конкурентов, в первую очередь у ChatGPT:

Постоянно появляются новые возможности и инструменты. Сегодня узнал, что Gemini научился создавать файлы, то есть получил агентские зачатки. Это большой плюс, который позволит убрать еще одну лишнюю ручную итерацию, когда полученный ответ приходилось копи/пастить себе в какой-нибудь внешний документ. Узнал это из видео, которое попалось на ютубе:

После этого я успел немного покопаться и посмотреть на эти новые возможности. В качестве примера прикреплю PDF-файл, который мне сгенерировал Gemini. В нем в виде таблицы представлены виды файлов, которые он умеет создавать и особенности работы с ними:

Рубрики
IT - разное

Эксперименты с локальной LLM Gemma 4

На днях появилась новая версия открытой LLM от Google — Gemma 4. Как только прочитал в новостях об этом, решил попробовать, что у них получилось на этот раз. Дело в том, что в третьей версии моделька получилась очень хорошей с оптимальным соотношением размера и качества для локального запуска. Я ее пробовал как для разных своих нужд, так и для одного тестирования по материалам чужой статьи на Хабре — Эксперименты с локальной LLM Gemma 3.

Сегодня хотел провести (и провел) два эксперимента, но в итоге, под впечатлениями, решил описать только второй из них. Как раз повторение эксперимента из статьи о Gemma 3 с созданием игры.

Итак, напомню предысторию. Человек решил создать простую игру на html + css + Javascript через один промпт. Через один, разумеется, не получилось тогда ни у него, ни у меня. Но я тогда, в силу тормознутости модели и постоянных ошибок в предлагаемом ею коде до рабочего состояния игру довести так и не смог, потратив пару часов времени и сделав с десяток итераций исправлений кода. То есть код модель написала, но очень долго (почти полчаса времени) и с кучей ошибок или недоработок. Посмотрим, что нам предложит новая версия модели сегодня.

Эксперимент. Создаем игру

Стартовые условия. Для запуска локальной модели использую простую программу LM Studio, на этот раз версии 0.4.7. Модель — gemma-4-26B-A4B-it-Q4_K_M. Приблизительно того же размера, того же квантования. Отличие лишь в том, что в 4 версии при работе модели используется всего 4 миллиарда параметров, вместо всех 26. Судя по всему, именно это крайне положительно повлияло на скорости работы модели. Но нам важнее качество, а не скорость. Хотя, одно другому не мешает.

Тот же самый промпт, что и в прошлый раз, слово в слово:

Промпт

Напишите HTML-код для игры в Lines.
Суть игры состоит в следующем.
На игровом поле 10 на 10 клеток в случайной клетке появляется первый шарик круглой формы одного из 5 случайных цветов.
Игрок мышкой кликает на этот шарик, выбирая его.
При выборе шарика его яркость и размер плавно циклически изменялись по синусоиде с помощью таймера.
Игрок мышкой указывает свободную клетку, куда он этот шарик желает передвинуть, и шарик передвигается в эту клетку. После этого изменение яркости и размера данного шарика прекращаются.
Выбор шарика и указание клеточки для его перемещения производились только нажатием левой кнопки мыши.
Затем в случайной свободной клетке опять появляется другой шарик одного из случайных 5 цветов.
Игрок снова мышкой кликает на любой имеющийся на поле шарик, выбирая его.
И таким же образом игра продолжается дальше.
Задача игрока состоит в том, чтобы из 5 или более шариков одного цвета собрать непрерывную линию по вертикали или по горизонтали или по диагонали. В этом случае все эти 5 шариков исчезают.
Игра заканчивается, когда все клеточки заполнены шариками. Новый шарик может появиться только на свободной клеточке.
Добавь кнопку, нажав на которую начинается новая игра, а также Label, на котором считается число удаленных линий из шариков. Сделай панель, кнопку и Label более красивыми, с четкими линиями и приятными цветами.

Отправляю и жду. Ответ получился в 3477 токена, со скоростью генерации 10,37 токена в секунду, то есть занял он где-то 336 секунд. Менее 6 минут. В прошлый раз на Gemma 3 понадобилось почти 30 минут. Увеличение скорости реально впечатляет. Конечно, это все зависит от железа, но железо у меня не менялось. Так что выигрыш чисто за счет улучшения работы модели. Но это еще цветочки, ягодки были впереди.

Рубрики
IT - разное Литература Обучение Программирование Разное

Тайный язык кода, Паскаль и Столяров: мой путь в программировании

Начинающие свой путь в сфере IT могут быть шокированы открывающимися перед ними горизонтами возможностей и объемами информации. Множество направлений, бесконечное число книг и онлайн-курсов. С чего начать? На что обратить внимание и к чему обратиться в первую очередь, а что изучать далее? Вопросов много и вот эта непонятность может стать причиной ступора. Или завести в ложном направлении, что в итоге может послужить причиной того, что человек просто бросит, так толком и не начав изучение. Решив, что это слишком сложно и лучше заняться чем-то другим. Кстати, если человек все же бросит, вероятно, это действительно не его. Программирование, как яркий представитель мира IT, на мой взгляд, с одной стороны доступно каждому, а с другой требует если и не особого склада ума, то как минимум особого отношения к тому, что изучаешь и делаешь. И вот без этого реально тут будет сложно. Но такое отношение можно выработать, оно не дается с рождения.

В данной статье у меня нет цели кого-то чему-то учить. Мне интересно вспомнить свой путь и рассказать о тех книгах, которые помогли в самом начале. Или на которые я обратил внимание в дальнейшем и затем советовал многим из тех, кто спрашивал, а что бы им такого почитать в качестве основы.

Книг будет не так уж много. Но каждая из них по своему значима как для меня, так и потенциально для тех, кто захочет погрузиться в пучины мира программирования и IT.

TL;DR: Список книг из статьи
  • Петцольд Ч. «Код. Тайный язык информатики» — как всё устроено на уровне битов и логических схем;
  • Деревенец О. «Песни о Паскале» — хорошая «грунтовка» для понимания основ программирования. Но очень на любителя, Паскаль, все дела;
  • Столяров А. «Программирование. Введение в профессию» — глубокий системный учебник по программированию в целом;
  • Брукшир Г. «Компьютерные науки. Базовый курс» — академический, но доступный, обзор компьютерных наук.
Рубрики
IT - разное

Как получить доступ к веб-странице с помощью Вебархива

Бывает ли ситуация, когда вы хотите открыть страницу вебсайта, которая у вас по какой-то неведомой причине не открывается, но при этом не хотите пользоваться «богомерзким» vpn? Не вопрос, вебархив поможет! Сегодня поговорим об этом полезном инструменте.

Веб-архив (web archive), он же машина времени (Wayback Machine) это часть ресурса Internet Archive, целью которого является сохранение наследия Интернета.

Интернет весьма динамичен. Он постоянно меняется. Каждый день появляются сотни и тысячи новых сайтов. Какие-то из них будут жить долго, а какие-то нет. Одни имеют ценность, а другие нет. Хотя и говорят — все что попало в интернет останется там навсегда — это преувеличение. В большей степени это так и есть, но, все же, остается там то, что кому-то нужно. То, что кто-то, где-то и как-то сохранит. Поделится, растиражирует. А вот то, что никому не интересно — вполне может исчезнуть. Другой вопрос, что не всегда очевидно, что вот это ценно и его нужно сохранить, а вот это нет. В итоге, чем большему количеству людей что-то интересно, тем выше шанс того, что это нечто сохранится где-то. Неуловимые Джо никому не нужны. Даже в сети.

Мне, как и многим активным пользователям сети, не раз приходилось сталкиваться с ситуацией, когда у тебя лежит что-то ценное в закладках. Спустя несколько лет хочешь перейти на ссылке, а сайта больше нет. Так же часто исчезают ролики из ютуба. Очень часто. Но ютуб и сохранение видео — это тема отдельного разговора. Сейчас речь именно об обычных вебсайтах, об обычных страницах. Вебархив помогает взглянуть на контент потерянных ссылок. Которые могут оказаться сохраненными в нем. Иногда бывает интересно посмотреть, как тот или иной сайт выглядел лет 20 назад. Для кого-то это будет шок, а для кого-то ностальгия.

Однако сейчас нам интересно немного другое. Вот эта вот возможность сохранять в вебархиве страницы сайтов позволяет посмотреть не только на страницы из прошлого, которые могут быть уже недоступны, но и на те страницы, которые доступны в сети, но недоступны, например, вам. По каким-то причинам. Итак, что же нам делать в такой ситуации?

Рубрики
IT - разное

О технологиях (искусственный интеллект и все в таком духе)

Не так давно (вообще-то уже больше полугода прошло) я написал статью О ChatGPT и ему подобных. Часть 1. Мои мысли по поводу, в которой размышлял о том, как отношусь к современному генеративному искусственному интеллекту (яркими представителями которого являются различные генераторы картинок и чат-боты) и о том, как его использование может помочь или навредить в процессе обучения. Сегодня же хотелось затронуть немного другую тему. Как технологии, прежде всего искусственный интеллект, могут изменить наш мир. Будем ли мы жить в будущем как в раю или мы все умрем? Спойлер — мы все равно все умрем. Но вряд ли причиной этого станет искусственный интеллект. Тем более тот, который у нас есть сейчас. То есть генеративный. Который что-то генерирует, будь то картинки, тексты, музыку, видео или что-либо еще.

Прошлое

Итак, вся история человечества это смена одних технологий другими. Наиболее ярко это можно проследить в военной сфере, рассматривая историю оружия. Классическое — луки начали теснить арбалеты, которые постепенно заменили ружья и прочее огнестрельное оружие. Машины, а затем боевые бронированные машины заменили лошадей и подводы. И т.д и т.п.

Широко известные луддиты в свое время протестовали против внедрения машин (станков и оборудования) в промышленности и производстве. Сейчас так называют тех, кто противится нововведениям. Но все дело в том, что остановить развитие невозможно. Так, в промышленности станки позволили увеличить производительность труда, фабрик и заводов. Железная дорога, пароходы и самолеты позволили человеку быстро путешествовать по всему миру. Телеграм (не тот, который в телефоне или на компьютере) и радио дали возможность людям общаться на расстоянии.

Нововведения внедряются потому что это выгодно массам. Это выгодно бизнесу, это выгодно людям в целом. Даже тем, кто этого может не понимать в моменте. Или не хочет понимать. Одни профессии отмирают и заменяются другими, другие становятся более редкими, какие-то еще остаются или меняются, несмотря на все нововведения и технологии. Например, писатели как были так и есть. Даже как-то слишком много их стало. Но по поводу слишком много будет еще дальше. А вот возничих уже нет. Отдельные очень редкие исключения лишь подтверждают это правило.

У каждого человека всегда есть две возможности. Можно сторониться инноваций и современных технологий. А можно стараться использовать их в своей жизни. В первом случае человек рискует остаться на обочине истории. Иметь меньше возможностей, застыть в развитии, остаться не у дел. Во втором — развиваться, быть впереди и использовать те возможности, которые дают новые технологии. В работе, быту, развлечениях. Какой путь выбрать — каждый решает сам. При этом чем старше человек становится, тем может быть сложнее воспринимать что-то новое. С возрастом начинает преобладать консерватизм даже у людей, которые всегда стремились знакомиться с чем-то новым. Я это замечаю даже по себе. Если еще лет 10 назад мне всегда было интересно попробовать что-то новое, поэкспериментировать, то сейчас уже хочется стабильности и меньше напрягаться. Это понятно, организм человека не любит тратить энергию попусту. Зачем осваивать что-то новое, если можно расслабиться и получать удовольствие от чего-то старого и проверенного временем? Но это ложное чувство. Движение это жизнь. Развитие — это жизнь. Пока мы к чему-то стремимся — мы живем.

Настоящее

Но давайте же вернемся к современным технологиям. К генеративному искусственному интеллекту (далее — ГИИ). Как изменит наше недалекое будущее развитие ГИИ? Точнее, оно уже постепенно изменяет, но радикальных изменений пока не произошло. Однако это лишь вопрос времени. Заменит ли он что-то и кого-то или будет использоваться как инструмент наряду с прочими инструментами, которые мы уже использовали вчера и используем сейчас?

На что способен ГИИ? На многое. Иногда с ошибками, иногда не идеально, но если быть достаточно настойчивым и умелым, то можно сделать многое.

Помочь в написании различных текстов? Запросто. На любом из распространенных языков. Письменные работы ученика или студента, документация педагога, шаблоны госслужащего — все это он может. Перевести с одного языка на другой, кстати, тоже. Озвучить текст? Вполне. И это даже будет нормально звучать. Создать (не написать, а именно создать) песню или мелодию — без проблем. И весьма хорошие результаты уже выдает. С видео пока есть проблемы, но там скорее особенность в непомерных количествах необходимых ресурсов.

А вот с картинками все отлично. По сути, с них то все и началось. Сгенерировать картинку по запросу, или распознать что изображено на картинке, распознать текст на картинке, а можно еще и перевести сходу, если надо. Все это возможно уже вчера.

Есть еще множество сценариев использования ГИИ. Кто-то играет с ними в ролевые игры, а кто-то спрашивает диагноз, как у лечащего врача. Кто-то учиться с их помощью, а кто-то просто общается как с другом. Что бы вы не придумали, это, скорее всего, можно в том или ином виде сделать с помощью ГИИ.

Первыми встрепенулись иллюстраторы и художники. За ними заволновались копирайтеры. Следом подтянулись программисты и прочие айтишники. Где-то там начали беспокоится психологи, переводчики, лингвисты и юристы. И многие другие.

Действительно ли все так плохо и завтра наступит конец света? Не думаю.

Будущее

На мой взгляд, ГИИ на текущий момент и в ближайшем будущем вряд ли что-то смогут радикально заменить. Сильно далеко заглядывать дело неблагодарное и вероятность того, что прогнозы сбудутся, даже если их дают компетентные специалисты, невелика. Почему так, желающие могут почитать в книге «Ложь, наглая ложь и статистика: приемы, которые помогут видеть правду за цифрами». Жаль, что я пока не написал на нее отзыв.

При этом локально ГИИ уже массово внедряется везде, где его могут приткнуть. Часто даже не задумываясь о последствиях и о том, надо ли его внедрять в той или иной сфере. Это иная крайность. Раз у нас есть молоток, все вокруг неожиданно начинает казаться гвоздями.

Но сегодня ГИИ прежде всего инструмент. Хороший инструмент, который надо уметь применять. Знать когда его стоит применять, а когда не стоит. Учитывать его достоинства и знать о недостатках. Да, надо учиться пользоваться этим инструментом. Как сейчас в школах на уроках информатики учат пользоваться компьютером, пакетом Microsoft Office или электронной почтой, так завтра будут учить пользоваться чат-ботами.

Не так давно, буквально лет 15-20 назад, когда активно развивался поисковик Google, наряду с развитием интернета, где можно было найти «все что угодно», многие говорили, что теперь не надо ничего учить. Ведь все можно найти в интернете. Прошло столько лет, и в интернете сегодня действительно можно найти практически что угодно. Более того, сейчас можно даже говорить, что если чего-то нет в сети, то считай его нет в реальности. Потому что люди в первую очередь ищут информацию именно в интернете. Касательно магазинов и покупок, развлечений, обучения и прочего. Однако, несмотря на все это, поисковик вместе с интернетом не заменил необходимость что-то учить, знать и уметь.

ГИИ уже стал и будет оставаться продвинутым инструментом с очень богатыми возможностями. Который будет существовать наряду с тем, что было вчера, а не вместо. Художников станет меньше, но они никуда не денутся. Зато будут активно использовать ГИИ в работе и творчестве. Писателей станет меньше… Хотя это вряд ли. Сейчас каждый второй мнит себя писателей, а ГИИ лишь будет помогать им так думать. Другой вопрос, что потребности в такой куче «писателей» нет. И со временем их станет меньше. Как и программистов. Сколько их нынче развелось? Если их общее число начнет сокращаться до количества десятилетней давности — станет ли это катастрофой или трагедией? Не станет. Не малая часть останется и будет теперь использовать ГИИ как инструмент в своей работе. Другая часть переквалифицируется. Явно нужно будет все больше специалистов в сфере ИИ. Кто-то уйдет туда.

Все это уже было. Катастрофы не случилось. Человечество (в целом) живет лучше с использованием все новых технологий. Повышается производительность труда, появляются новые профессии. Возникают новые увлечения и возможности. Кому-то придется меняться и адаптироваться. Так это всегда так было. Адаптироваться и приспосабливаться — и двигаться вперед. Или застыть на месте и остаться в прошлом. Выбор за каждым из нас. Но вперед лучше идти с современными инструментами.

Рубрики
IT - разное Самое разное

Как я делал книги в fb2

Любовь к книгам у меня развилась с раннего детства. Всегда их любил и ценил. Когда-то это были бумажные книги, а потом стали электронный (или цифровые, кому как больше нравится). При этом в электронном виде книги могут быть в разном формате. В начале нулевых это были обычные txt файлы. Читать их было то еще удовольствие. А я вообще первую книгу на компьютере читал в Word’е. Мне это так «понравилось», что на какое-то время отбило желание читать с экрана.

Однако, вскоре мне повезло найти единомышленника, который тоже любил читать. И читал на компьютере. Именно он познакомил меня с программой ICE Book Reader, с помощью которой я уже около 20 лет читаю художественные книги с экрана монитора. Почему я отдельно уточняю про художественные — потому что различный нон-фикшен, учебную и прочую подобную литературу я предпочитаю читать в pdf по многим причинам.

И вот один из форматов, которые сменили обычные текстовые файлы для художественных книг в электронном виде, был fb2. Сначала он показался мне не очень удобным, но вскоре появилось много программ для чтения таких книг и оказалось, что формат на самом деле как раз очень удобен. С тех пор я и люблю его и предпочитаю всем другим (немногочисленным) для художественных (и некоторого нон-фикшена, где есть только текст) книг.

Так сложилось, что мне и самому приходилось делать книги в таком формате. Точнее, на текущий момент я таких книг сделал аж две. Одну в далеком 2014, и одну буквально только что, в начале апреля 2025.

Начав вспоминать, как это все было, выяснилось, что первая книга, которую я делал, это был перевод «Лужок черного лебедя» Дэвида Митчелла. Перевод делал по главам и выкладывал у себя в живом журнале Алексей Поляринов. После его завершения он предложил желающим сверстать из него книгу в формате fb2.

Рубрики
IT - разное

Эксперименты с локальной LLM Gemma 3

Сегодня увидел на Хабре статью Создание игры с помощью LLM более полугода назад и этой же игры теперь. Что изменилось?. Не то чтобы я жаждал программировать с использованием больших языковых моделей (ака чатботы, ака нейросети, ака LLM), но сами их возможности, которые быстро растут (а также растет их доступность), впечатляют. Поэтому захотелось взглянуть, что там за эксперимент такой и что получилось у человека в итоге.

Я уже пробовал ранее запускать LLM локально, но попытки оценить на что они способны в интересующих меня сферах обычно терпели фиаско. Ключевая проблема локального запуска моделей в том, что для запуска на обычном железе приходится выбирать их урезанные версии с небольшим числом параметров, например, 1B, 4B, 12B, 27В. Плюс с урезанным квантованием. В итоге эти модели могут что-то делать, но обычно на английском и чем меньше модель, тем она менее «умная». Попытки делать что-то на русском и, особенно, на украинском, обычно показывали не очень хорошие результаты.

Автор статьи взял модель общего назначения gemma-3-27b-it-Q4_K_M. Это одна из урезанных версий недавно выпущенной большой модели Gemma 3 от Google. Собственно, я ее уже тогда скачал, в этой версии — gemma-3-27b-it-Q5_K_M, с чуть более высоким квантованием. Оптимальный вариант для своего железа. Сразу попробовал с украинским языком и, на удивление, она показала себя неплохо. Не ChatGPT (какая там нынче версия доступна бесплатно — о1?), но уже вполне годится для моих запросов. Только медленно работает. Но это уже вопросы к железу. Искусственный интеллект требует жертв больших ресурсов.

В комментариях к указанной статье Хабра стали обсуждать, можно ли запустить эту модель на обычном домашнем железе и какая будет скорость работы при выполнении прикладных задач. Я и решил попробовать повторить опыт автора статьи у себя. И замерить показатели. Решил и сделал. Для эксперимента использовал простую программу для локального запуска LLM моделей — LM Studio версии 0.3.9.