Рубрики
IT - разное

О технологиях (искусственный интеллект и все в таком духе)

Не так давно (вообще-то уже больше полугода прошло) я написал статью О ChatGPT и ему подобных. Часть 1. Мои мысли по поводу, в которой размышлял о том, как отношусь к современному генеративному искусственному интеллекту (яркими представителями которого являются различные генераторы картинок и чат-боты) и о том, как его использование может помочь или навредить в процессе обучения. Сегодня же хотелось затронуть немного другую тему. Как технологии, прежде всего искусственный интеллект, могут изменить наш мир. Будем ли мы жить в будущем как в раю или мы все умрем? Спойлер — мы все равно все умрем. Но вряд ли причиной этого станет искусственный интеллект. Тем более тот, который у нас есть сейчас. То есть генеративный. Который что-то генерирует, будь то картинки, тексты, музыку, видео или что-либо еще.

Прошлое

Итак, вся история человечества это смена одних технологий другими. Наиболее ярко это можно проследить в военной сфере, рассматривая историю оружия. Классическое — луки начали теснить арбалеты, которые постепенно заменили ружья и прочее огнестрельное оружие. Машины, а затем боевые бронированные машины заменили лошадей и подводы. И т.д и т.п.

Широко известные луддиты в свое время протестовали против внедрения машин (станков и оборудования) в промышленности и производстве. Сейчас так называют тех, кто противится нововведениям. Но все дело в том, что остановить развитие невозможно. Так, в промышленности станки позволили увеличить производительность труда, фабрик и заводов. Железная дорога, пароходы и самолеты позволили человеку быстро путешествовать по всему миру. Телеграм (не тот, который в телефоне или на компьютере) и радио дали возможность людям общаться на расстоянии.

Нововведения внедряются потому что это выгодно массам. Это выгодно бизнесу, это выгодно людям в целом. Даже тем, кто этого может не понимать в моменте. Или не хочет понимать. Одни профессии отмирают и заменяются другими, другие становятся более редкими, какие-то еще остаются или меняются, несмотря на все нововведения и технологии. Например, писатели как были так и есть. Даже как-то слишком много их стало. Но по поводу слишком много будет еще дальше. А вот возничих уже нет. Отдельные очень редкие исключения лишь подтверждают это правило.

У каждого человека всегда есть две возможности. Можно сторониться инноваций и современных технологий. А можно стараться использовать их в своей жизни. В первом случае человек рискует остаться на обочине истории. Иметь меньше возможностей, застыть в развитии, остаться не у дел. Во втором — развиваться, быть впереди и использовать те возможности, которые дают новые технологии. В работе, быту, развлечениях. Какой путь выбрать — каждый решает сам. При этом чем старше человек становится, тем может быть сложнее воспринимать что-то новое. С возрастом начинает преобладать консерватизм даже у людей, которые всегда стремились знакомиться с чем-то новым. Я это замечаю даже по себе. Если еще лет 10 назад мне всегда было интересно попробовать что-то новое, поэкспериментировать, то сейчас уже хочется стабильности и меньше напрягаться. Это понятно, организм человека не любит тратить энергию попусту. Зачем осваивать что-то новое, если можно расслабиться и получать удовольствие от чего-то старого и проверенного временем? Но это ложное чувство. Движение это жизнь. Развитие — это жизнь. Пока мы к чему-то стремимся — мы живем.

Настоящее

Но давайте же вернемся к современным технологиям. К генеративному искусственному интеллекту (далее — ГИИ). Как изменит наше недалекое будущее развитие ГИИ? Точнее, оно уже постепенно изменяет, но радикальных изменений пока не произошло. Однако это лишь вопрос времени. Заменит ли он что-то и кого-то или будет использоваться как инструмент наряду с прочими инструментами, которые мы уже использовали вчера и используем сейчас?

На что способен ГИИ? На многое. Иногда с ошибками, иногда не идеально, но если быть достаточно настойчивым и умелым, то можно сделать многое.

Помочь в написании различных текстов? Запросто. На любом из распространенных языков. Письменные работы ученика или студента, документация педагога, шаблоны госслужащего — все это он может. Перевести с одного языка на другой, кстати, тоже. Озвучить текст? Вполне. И это даже будет нормально звучать. Создать (не написать, а именно создать) песню или мелодию — без проблем. И весьма хорошие результаты уже выдает. С видео пока есть проблемы, но там скорее особенность в непомерных количествах необходимых ресурсов.

А вот с картинками все отлично. По сути, с них то все и началось. Сгенерировать картинку по запросу, или распознать что изображено на картинке, распознать текст на картинке, а можно еще и перевести сходу, если надо. Все это возможно уже вчера.

Есть еще множество сценариев использования ГИИ. Кто-то играет с ними в ролевые игры, а кто-то спрашивает диагноз, как у лечащего врача. Кто-то учиться с их помощью, а кто-то просто общается как с другом. Что бы вы не придумали, это, скорее всего, можно в том или ином виде сделать с помощью ГИИ.

Первыми встрепенулись иллюстраторы и художники. За ними заволновались копирайтеры. Следом подтянулись программисты и прочие айтишники. Где-то там начали беспокоится психологи, переводчики, лингвисты и юристы. И многие другие.

Действительно ли все так плохо и завтра наступит конец света? Не думаю.

Будущее

На мой взгляд, ГИИ на текущий момент и в ближайшем будущем вряд ли что-то смогут радикально заменить. Сильно далеко заглядывать дело неблагодарное и вероятность того, что прогнозы сбудутся, даже если их дают компетентные специалисты, невелика. Почему так, желающие могут почитать в книге «Ложь, наглая ложь и статистика: приемы, которые помогут видеть правду за цифрами». Жаль, что я пока не написал на нее отзыв.

При этом локально ГИИ уже массово внедряется везде, где его могут приткнуть. Часто даже не задумываясь о последствиях и о том, надо ли его внедрять в той или иной сфере. Это иная крайность. Раз у нас есть молоток, все вокруг неожиданно начинает казаться гвоздями.

Но сегодня ГИИ прежде всего инструмент. Хороший инструмент, который надо уметь применять. Знать когда его стоит применять, а когда не стоит. Учитывать его достоинства и знать о недостатках. Да, надо учиться пользоваться этим инструментом. Как сейчас в школах на уроках информатики учат пользоваться компьютером, пакетом Microsoft Office или электронной почтой, так завтра будут учить пользоваться чат-ботами.

Не так давно, буквально лет 15-20 назад, когда активно развивался поисковик Google, наряду с развитием интернета, где можно было найти «все что угодно», многие говорили, что теперь не надо ничего учить. Ведь все можно найти в интернете. Прошло столько лет, и в интернете сегодня действительно можно найти практически что угодно. Более того, сейчас можно даже говорить, что если чего-то нет в сети, то считай его нет в реальности. Потому что люди в первую очередь ищут информацию именно в интернете. Касательно магазинов и покупок, развлечений, обучения и прочего. Однако, несмотря на все это, поисковик вместе с интернетом не заменил необходимость что-то учить, знать и уметь.

ГИИ уже стал и будет оставаться продвинутым инструментом с очень богатыми возможностями. Который будет существовать наряду с тем, что было вчера, а не вместо. Художников станет меньше, но они никуда не денутся. Зато будут активно использовать ГИИ в работе и творчестве. Писателей станет меньше… Хотя это вряд ли. Сейчас каждый второй мнит себя писателей, а ГИИ лишь будет помогать им так думать. Другой вопрос, что потребности в такой куче «писателей» нет. И со временем их станет меньше. Как и программистов. Сколько их нынче развелось? Если их общее число начнет сокращаться до количества десятилетней давности — станет ли это катастрофой или трагедией? Не станет. Не малая часть останется и будет теперь использовать ГИИ как инструмент в своей работе. Другая часть переквалифицируется. Явно нужно будет все больше специалистов в сфере ИИ. Кто-то уйдет туда.

Все это уже было. Катастрофы не случилось. Человечество (в целом) живет лучше с использованием все новых технологий. Повышается производительность труда, появляются новые профессии. Возникают новые увлечения и возможности. Кому-то придется меняться и адаптироваться. Так это всегда так было. Адаптироваться и приспосабливаться — и двигаться вперед. Или застыть на месте и остаться в прошлом. Выбор за каждым из нас. Но вперед лучше идти с современными инструментами.

Рубрики
IT - разное

Эксперименты с локальной LLM Gemma 3

Сегодня увидел на Хабре статью Создание игры с помощью LLM более полугода назад и этой же игры теперь. Что изменилось?. Не то чтобы я жаждал программировать с использованием больших языковых моделей (ака чатботы, ака нейросети, ака LLM), но сами их возможности, которые быстро растут (а также растет их доступность), впечатляют. Поэтому захотелось взглянуть, что там за эксперимент такой и что получилось у человека в итоге.

Я уже пробовал ранее запускать LLM локально, но попытки оценить на что они способны в интересующих меня сферах обычно терпели фиаско. Ключевая проблема локального запуска моделей в том, что для запуска на обычном железе приходится выбирать их урезанные версии с небольшим числом параметров, например, 1B, 4B, 12B, 27В. Плюс с урезанным квантованием. В итоге эти модели могут что-то делать, но обычно на английском и чем меньше модель, тем она менее «умная». Попытки делать что-то на русском и, особенно, на украинском, обычно показывали не очень хорошие результаты.

Автор статьи взял модель общего назначения gemma-3-27b-it-Q4_K_M. Это одна из урезанных версий недавно выпущенной большой модели Gemma 3 от Google. Собственно, я ее уже тогда скачал, в этой версии — gemma-3-27b-it-Q5_K_M, с чуть более высоким квантованием. Оптимальный вариант для своего железа. Сразу попробовал с украинским языком и, на удивление, она показала себя неплохо. Не ChatGPT (какая там нынче версия доступна бесплатно — о1?), но уже вполне годится для моих запросов. Только медленно работает. Но это уже вопросы к железу. Искусственный интеллект требует жертв больших ресурсов.

В комментариях к указанной статье Хабра стали обсуждать, можно ли запустить эту модель на обычном домашнем железе и какая будет скорость работы при выполнении прикладных задач. Я и решил попробовать повторить опыт автора статьи у себя. И замерить показатели. Решил и сделал. Для эксперимента использовал простую программу для локального запуска LLM моделей — LM Studio версии 0.3.9.

Рубрики
IT - разное

О ChatGPT и ему подобных. Часть 1. Мои мысли по поводу

Сначала я просто невзлюбил ChatGPT. Я не понимал, что с ним не так и почему он мне не нравится. Но где-то в глубине души словно заноза засело ощущение, что тут что-то не так. Уже позднее, ближе познакомившись и с ChatGPT и с прочими представителями искусственного интеллекта (изначально тут было написано «нейросетями и llm моделями», но затем, лучше разобравшись с этими понятиями, я понял, что так писать будет не совсем корректно), я смог уже более точно сформулировать, что именно мне в этом всем не нравится. Так что если вам это интересно — можете читать далее.

Вступление

Итак, начнем немного издалека. О ChatGPT впервые я узнал, скорее всего, на Хабре. Первые упоминания о нем у нас в Дискорде датируются где-то январем 2023 года. На тот момент интернет вовсю уже бурлил, обсуждая возможности нового искусственного интеллекта, представленного в виде чат-бота. В какой-то момент времени об этом говорили буквально везде: в профильных издания и сайтах, в новостях, на форумах и в социальных сетях.

Хотя, справедливости ради, о немного иных представителях искусственного интеллекта (далее просто ИИ) заговорили раньше, приблизительно летом 2022 года, когда появились (и тоже породили бурления в сети) генераторы изображения Midjourney и DALL-E. Между прочим, об одной из программ для генерации изображений я уже писал в прошлом году — Fooocus — простая и доступная нейросеть для генерации изображений по текстовому описанию, там тоже есть часть моих размышлений на тему. Только они касались именно генераторов изображений, что имеет свои особенности.