It’s FOSS: Pinokio – лаунчер для нейросетей

Некоторые нейросети работают прямо в вебе, а некоторые нужно устанавливать на свой ПК и запускать локально. Задача, мягко говоря, не из простых, и разобраться с ней вам поможет приложение под названием Pinokio.

Я установил Pinokio AI и теперь могу устанавливать и запускать нейросети всего в 1 клик

Нейросети повсюду, но далеко не все нейросети доступны рядовому пользователю. Вы, конечно, можете заморочиться с [данные удалены] и поболтать с ChatGPT или Bing Ghat, но сходу запустить нужную вам модель локально у вас вряд ли получится.

А ведь у локальных моделей множество неоспоримых преимуществ: вы ни от кого не зависите и сами контролируете свои данные данные, а самое главное – вам не нужно платить за подписку. Вот только справятся с установкой ИИ на свой ПК не только лишь все…

И тут вам на помощь приходит Pinokio, «лаунчер» для нейросетей, благодаря которому почти любую модель можно установить и запустить всего в пару кликов. И, если пока вы о нём даже не слушали, позвольте мне рассказать, что к чему.


Pinokio: лаунчер для нейросетей

Картинка сгенерирована It's FOSS в Pinokio
Картинка сгенерирована It’s FOSS в Pinokio

Обычно, чтобы запустить нейросеть локально, нужно выполнить целую кучу нетривиальных действий. Да, где-то рядом с исходным кодом должна лежать и подробная инструкция по его запуску, но, во-первых, для большинства пользователей это всё ещё непосильная задача, а, во-вторых, никто не гарантирует, что, даже если вы всё сделаете правильно, модель действительно запустится и будет работать.

Тут то вам и понадобится Pinokio: с его помощью почти любая модель устанавливается всего в пару кликов. Останется только настроить её под себя и запустить. И все модели, которые вы успели установить, будут храниться в одной папке.

📋 Для комфортной работы с нейросетями вам понадобится неплохой компьютер. И места на жёстком диске они тоже занимают немало. Убедитесь, что у вас есть хотя бы 30-40ГБ свободного пространства (а лучше побольше), и, если не хотите ждать часами, даже не пытайтесь запускать это всё на старом ПК. Вам нужно хотя бы 4-6 ядер и хотя бы 6ГБ видеопамяти (лучше – 12ГБ). Я тестировал работу Pinokio с Nvidia RTX 3060Ti с 8ГБ видеопамяти, и для многих задач этого катастрофически мало: работать будет, но очень медленно.

Но, если ваша система не может похвастаться особой мощностью, не расстраивайтесь: некоторые нейросети не так требовательны к ресурсам ПК. И, честно говоря, системные требования – это единственный недостаток локальной работы с нейросетями.


Ключевые особенности Pinokio AI

Итак, вы заинтересовались темой нейросетей и решили установить Pinokio. Что вам стоит знать?

  • Pinokio и все установленные в него нейросети будут работать локально. Ваши данные никуда не отправляются, но и все вычисления вам придётся взять на себя.
  • Это полностью бесплатное приложение с открытым исходным кодом.
  • Pinokio – максимально дружелюбное и простое в освоении и использовании кроссплатформенное приложение.

Как установить нейросеть с помощью Pinokio?

-3

Сперва разберёмся, как установить Pinokio. Для этого отправляемся на GitHub и ищем установщики для нужной вам системы. Для Linux это AppImage, DEB и RPM.

Я тестировал Pinokio в Ubuntu 24.04 LTS в формате DEB и AppImage: DEB работал без нареканий, а вот с AppImage, который должен запускаться в один клик без установки, проблемы всё-таки были. Так что на данный момент я бы советовал использовать нативные для вашей системы DEB и RPM.

После установки просто найдите Pinokio в меню приложений. При первом запуске вас попросят выбрать тему оформления и директорию, в которой вы будете сохранять нужные вам нейросети.

-4

Разумеется, первым делом я переключился на тёмную тему.

Как только вы нажмёте кнопку Save, вы попадёте во вкладку Discover.

-5

Во вкладке Discover собраны популярные нейросети, доступные для установки в Pinokio.

-6

Порядок тут рандомный. Всё, что вам нужно сделать, – тупо выбрать нужную нейросеть и нажать кнопку Download.

-7

В первый раз вам предложат установить необходимые зависимости.

-8

Когда необходимые зависимости будут загружены и установлены, вам предложат установить скрипт для запуска конкретной нейросети.

-9

Установка, настройка и запуск начнутся только после того, как вы нажмёте кнопку Download. Время запуска для каждой нейронки может быть максимально разным: какие-то запускаются почти мгновенно, каким-то нужно немного подумать.

Чем сложнее и навороченнее нейросеть, тем больше места на жёстком диске ей нужно. Иногда речь идёт о 6ГБ и более. Так что перед установкой убедитесь, что у вас достаточно свободного места и ваш интернет сегодня работает нормально. Установка скрипта выглядит примерно так:

-10

После завершения скачивания и установки в боковой панели появится кнопка Web UI. Как раз через неё вы и будете запускать нейронку.

-11

Я протестировал около 10 моделей, но лишь некоторые из них работали. Какие-то из них придётся настраивать вручную, а некоторые откажутся запускаться вовсе. И пока не попробутете, вы не узнаете, будет оно работать или не будет.

А ещё я заметил, что Pinokio не получал обновления уже 9-10 месяцев. Надеюсь, подобные публикации привлекут внимание к проекту, а новые участники сумеют вдохнуть в него новую жизнь.

Какие модели у меня успешно запустились:

  • Focus (генерации изображений)
  • FaceFusion (замена и редактирование лиц)
  • AudioSep (разделение аудиодорожек)

Некоторые нейронки, которые мне хотелось протестировать, тоже запускаться отказались. Например, ChatGPT у меня так и не заработал. Но у него хотя бы есть альтернативы.

Из того, что заработало, мой фаворит – Focus. Им я, скорее всего, буду пользоваться и дальше. Удобная штука для работы с соцсетями.

-12

В Focus можно генерировать реалистичные изображения, рисунки, стилизованные под аниме, и многое другое.

Нейросети для генерации видео в Pinokio тоже есть, но VideoCrafter у меня, к примеру, так и не запустился. Говорит, нужно больше памяти. Видимо, 8ГБ ему недостаточно.

Кстати, вот так у меня выглядела папка Pinokio после установки всего одного приложения:

-13

Да, затевая написать что-то на тему нейросетей и их локального запуска, я слегка переоценил возможности своего ПК. Выходит, пока локальная работа с нейронками – штука, доступная далеко не всем. Однако, если у вас достаточно мощный ПК, Pinokio существенно облегчит работу с главным инструментом современного юзера.

Если нужны подробности, официальную документацию можно найти вот тут.


Вместо выводов

Итак, всё прошло немного не так, как я рассчитывал, однако те нейросети, которые у меня всё-таки запустились, меня порадовали. Так что штука эта всё равно максимально удобная и полезная!

Да, доступны нейросети далеко не всем, но, если вам повезло, есть ли хоть какой-то смысл отказываться от столь заманчивой возможности? ИИ существенно облегчает выполнение рутинных задач, и, один раз попробовав, вы уже вряд ли от них откажитесь.

Анкуш Дас,
It’s FOSS
28 мая 2024

Комментарии

Популярные сообщения