Искусственный Интеллект - История изменений

AZykov в 23:59, 21 декабря 2025

2025-12-21T23:59:21Z

← Предыдущая версия		Версия от 23:59, 21 декабря 2025
Строка 44:		Строка 44:
	-dit \		-dit \
	--restart unless-stopped \		--restart unless-stopped \
	era/ai_proxy:1.1.0		era/ai_proxy:1.2.3
	</syntaxhighlight>После чего он становится доступен на порту 32080 (HTTP).		</syntaxhighlight>После чего он становится доступен на порту 32080 (HTTP).
	[[Файл:Установка адреса прокси в параметрах системы.png\|мини\|Установка адреса прокси в параметрах системы]]		[[Файл:Установка адреса прокси в параметрах системы.png\|мини\|Установка адреса прокси в параметрах системы]]

AZykov в 23:58, 21 декабря 2025

2025-12-21T23:58:45Z

← Предыдущая версия		Версия от 23:58, 21 декабря 2025
Строка 37:		Строка 37:

	Установка контейнера сервиса выполняется несколькими простыми командами:<syntaxhighlight lang="bash">		Установка контейнера сервиса выполняется несколькими простыми командами:<syntaxhighlight lang="bash">
	wget https://download.era-platform.ru/ai/~~era_ai_proxy_1_1_0~~.tar.gz		wget https://download.era-platform.ru/ai/era_ai_proxy_1_2_3.tar.gz
	docker load -i ~~era_ai_proxy_1_1_0~~.tar.gz		docker load -i era_ai_proxy_1_2_3.tar.gz
	docker run --name era_ai_proxy \		docker run --name era_ai_proxy \
	--tmpfs /run:rw,noexec,nosuid,size=4096k \		--tmpfs /run:rw,noexec,nosuid,size=4096k \

AZykov: /* Установка Ollama */

2025-07-30T13:28:07Z

Установка Ollama

← Предыдущая версия		Версия от 13:28, 30 июля 2025
Строка 137:		Строка 137:

	[[Файл:Подключение к Ollama.png\|мини\|Подключение к Ollama]]		[[Файл:Подключение к Ollama.png\|мини\|Подключение к Ollama]]
	Для установки новых моделей, необходимо выполнить команду внутри контейнера:<syntaxhighlight lang="bash">		Для установки новых моделей, необходимо выполнить команду внутри контейнера.

			Запускаем bash внутри контейнера в интерактивном режиме:<syntaxhighlight lang="bash">
	docker exec -it era_ai_llm_ollama bash		docker exec -it era_ai_llm_ollama bash
			</syntaxhighlight>Выполняем команду загрузки:<syntaxhighlight lang="bash">
	ollama pull <name>		ollama pull <name>
	</syntaxhighlight>Каталог доступных моделей доступен на [https://ollama.com/library официальном сайте]		</syntaxhighlight>Каталог доступных моделей доступен на [https://ollama.com/library официальном сайте]

AZykov: /* Установка LocalAI */

2025-07-28T10:40:43Z

Установка LocalAI

← Предыдущая версия		Версия от 10:40, 28 июля 2025
Строка 121:		Строка 121:

	Установка также выполняется с помощью docker-контейнера:<syntaxhighlight lang="bash">		Установка также выполняется с помощью docker-контейнера:<syntaxhighlight lang="bash">
			wget https://download.era-platform.ru/ai/era_ai_llm_ollama_1_0_0.tar.gz
	docker load -i era_ai_llm_ollama_1_0_0.tar.gz		docker load -i era_ai_llm_ollama_1_0_0.tar.gz

AZykov в 10:12, 28 июля 2025

2025-07-28T10:12:44Z

← Предыдущая версия		Версия от 10:12, 28 июля 2025
Строка 216:		Строка 216:
	[[Файл:Пример сценария чата с ИИ.png\|мини\|Пример сценария чата с ИИ]]		[[Файл:Пример сценария чата с ИИ.png\|мини\|Пример сценария чата с ИИ]]
	Компонент '''ИИ-ассистент старт''' создаст новый диалог и сохранит его идентификаторв переменную, а также вернет ответ бота. Если необходимо этот диалог продолжить, то необходимо использовать компонент '''ИИ-ассистент продолжение''' с сохраненным идентификатором диалога.		Компонент '''ИИ-ассистент старт''' создаст новый диалог и сохранит его идентификаторв переменную, а также вернет ответ бота. Если необходимо этот диалог продолжить, то необходимо использовать компонент '''ИИ-ассистент продолжение''' с сохраненным идентификатором диалога.

			В [[Реализация ИИ чат-бота с переводом на оператора\|данной статье]] рассмотрен пример реализации ИИ-бота с возможностью перевода на оператора.
	[[Категория:Приложения]]		[[Категория:Приложения]]

AZykov: /* Установка LocalAI */

2025-07-28T10:10:25Z

Установка LocalAI

← Предыдущая версия		Версия от 10:10, 28 июля 2025
Строка 96:		Строка 96:

	=== Установка LocalAI ===		=== Установка LocalAI ===
	[https://localai.io/ LocalAI] - это проект с открытым исходным кодом, который предоставляет возможность локального развертываниябольшого числа моделей и предоставляет для использования OpenAI-like API. Также он поддерживает загрузку моделей через web-интерфейс. Контейнер загружается из сети Интернет и при первом запуске автоматически скачивает ~~модели по умолчанию~~).		[https://localai.io/ LocalAI] - это проект с открытым исходным кодом, который предоставляет возможность локального развертываниябольшого числа моделей и предоставляет для использования OpenAI-like API. Также он поддерживает загрузку моделей через web-интерфейс. Контейнер загружается из сети Интернет и при первом запуске автоматически скачивает стандартный набор моделей).

	Работает на GPU.		Работает на GPU.

AZykov: /* Установка сервиса AI Proxy */

2025-07-28T10:09:46Z

Установка сервиса AI Proxy

← Предыдущая версия		Версия от 10:09, 28 июля 2025
Строка 30:		Строка 30:

	= Установка сервиса AI Proxy =		= Установка сервиса AI Proxy =
	Сервис AI Proxy работает как docker-контейнер и является отдельным микросервисом, не входящим в контур платформы эра. Соответственно, он не управляется доменным центром платформы, не осуществляется автоматическая миграция и сборка логов. Сервис может быть развернут как на одном из ~~сервером~~, обслуживающем платформу, так и на отдельном сервере (например, отдельном сервере для LLM с GPU).		Сервис AI Proxy работает как docker-контейнер и является отдельным микросервисом, не входящим в контур платформы эра. Соответственно, он не управляется доменным центром платформы, не осуществляется автоматическая миграция и сборка логов. Сервис может быть развернут как на одном из серверов, обслуживающем платформу, так и на отдельном сервере (например, отдельном сервере для LLM с GPU).

	Сам по себе AI Proxy не запускает модели, но преобразует и маршрутизирует запросы к ним, а также хранит индексы RAG.		Сам по себе AI Proxy не запускает модели, но преобразует и маршрутизирует запросы к ним, а также хранит индексы RAG.

AZykov: /* Создание баз знаний */

2025-07-28T09:28:59Z

Создание баз знаний

← Предыдущая версия		Версия от 09:28, 28 июля 2025
Строка 3:		Строка 3:
	В составе платформы Эра, начиная с версии продуктового слоя от 31.03.2025, доступно приложение ИИ. Данное приложение позволяет использовать большие языковые модели (LLM) в рамках платформы.		В составе платформы Эра, начиная с версии продуктового слоя от 31.03.2025, доступно приложение ИИ. Данное приложение позволяет использовать большие языковые модели (LLM) в рамках платформы.

	На текущий момент, основным применением LLM в рамках платформы ~~являются чат~~-боты.		На текущий момент, основным применением LLM в рамках платформы является работа с текстовыми данными:

			* Чат-боты
			* Проверка орфографии
			* Перевод текста
			* Суммаризация
			* Маршрутизация
			* Оценка качества / анализ стенограммы.

			При этом для каждой из задач в платформе может быть создан отдельный бот. Бот может быть использован как в диалоговом режиме (для внутренних и внешних чатов), так и в режиме исполнения одиночных запросов.

	Приложение ИИ предоставляет следующий набор возможностей:		Приложение ИИ предоставляет следующий набор возможностей:
Строка 14:		Строка 23:
	Имеется возможность использовать как облачные решения, так и развернутые во внутреннем контуре модели.		Имеется возможность использовать как облачные решения, так и развернутые во внутреннем контуре модели.

	При работе с искусственным интеллектом, платформа использует подход RAG, который позволяет комбинировать информацию, содержащуюся в самой модели (как правило только публичная и общая информация) с ~~инфорамцией~~ из конкретной базы знаний бизнеса. Этот подход позволяет значительно уменьшить количество "расплывчатых" ответов ИИ, а также ограничить его нецелевое использование - пользователям может быть доступен только контекст, определяемый базой знаний.		При работе с искусственным интеллектом, платформа использует подход RAG, который позволяет комбинировать информацию, содержащуюся в самой модели (как правило только публичная и общая информация) с информацией из конкретной базы знаний бизнеса. Этот подход позволяет значительно уменьшить количество "расплывчатых" ответов ИИ, а также ограничить его нецелевое использование - пользователям может быть доступен только контекст, определяемый базой знаний.

	Все запросы к языковым моделям осуществляются не напрямую из платформы Эра, а через специализированный сервис Era AI Proxy, который предоставляет единый интерфейс для работы с моделями, осуществляя преобразование запросов в необходимый API внутри себя.		Все запросы к языковым моделям осуществляются не напрямую из платформы Эра, а через специализированный сервис Era AI Proxy, который предоставляет единый интерфейс для работы с моделями, осуществляя преобразование запросов в необходимый API внутри себя.

	В рамках данной статьи будет рассмотрена полная настройка работы приложения ИИ, от ~~разворачивания~~ сервисов до настройки ботов.		В рамках данной статьи будет рассмотрена полная настройка работы приложения ИИ, от развертывания сервисов до настройки ботов.

	= Установка сервиса AI Proxy =		= Установка сервиса AI Proxy =
	Сервис AI Proxy работает как docker-контейнер и является отдельным микросервисом, не входящим в контур платформы эра. Соответственно, он не управляется доменным центром платформы, не осуществляется автоматическая миграция и сборка логов. Сервис может быть развернут как на одном из сервером, обслуживающем платформу, так и на отдельном сервере (например, отдельном сервере для LLM с GPU).		Сервис AI Proxy работает как docker-контейнер и является отдельным микросервисом, не входящим в контур платформы эра. Соответственно, он не управляется доменным центром платформы, не осуществляется автоматическая миграция и сборка логов. Сервис может быть развернут как на одном из сервером, обслуживающем платформу, так и на отдельном сервере (например, отдельном сервере для LLM с GPU).

	Сам по себе AI Proxy не запускает модели, но преобразует и маршрутизирует запросы к ним, а ~~так же~~ хранит индексы RAG.		Сам по себе AI Proxy не запускает модели, но преобразует и маршрутизирует запросы к ним, а также хранит индексы RAG.



	Установка контейнера сервиса выполняется несколькими простыми командами:<syntaxhighlight lang="bash">		Установка контейнера сервиса выполняется несколькими простыми командами:<syntaxhighlight lang="bash">
Строка 85:		Строка 96:

	=== Установка LocalAI ===		=== Установка LocalAI ===
	[https://localai.io/ LocalAI] - это проект с открытым исходным кодом, который предоставляет возможность локального ~~развёртывания большого~~ числа моделей и предоставляет для использования OpenAI-like API. Также он поддерживает загрузку моделей через web-интерфейс. Контейнер загружается из сети Интернет и при первом запуске автоматически скачивает модели по умолчанию).		[https://localai.io/ LocalAI] - это проект с открытым исходным кодом, который предоставляет возможность локального развертываниябольшого числа моделей и предоставляет для использования OpenAI-like API. Также он поддерживает загрузку моделей через web-интерфейс. Контейнер загружается из сети Интернет и при первом запуске автоматически скачивает модели по умолчанию).

	Работает на GPU.		Работает на GPU.
Строка 96:		Строка 107:

	* LLM: hermes-2-pro-mistral (псевдоним - gpt-4)		* LLM: hermes-2-pro-mistral (псевдоним - gpt-4)
	* embedding (RAG): all-MiniLM-L6-v2 (~~псеводним~~ - text-embedding-ada-002)		* embedding (RAG): all-MiniLM-L6-v2 (псевдоним - text-embedding-ada-002)

	Для установки новых моделей используется web-интерфейс http://server_address:32081		Для установки новых моделей используется web-интерфейс http://server_address:32081
Строка 138:		Строка 149:
	В приложении ИИ доступен раздел '''Базы знаний GPT'''. В этом разделе можно формировать базы знаний, которые в дальнейшем могут использоваться ботами для ответов.		В приложении ИИ доступен раздел '''Базы знаний GPT'''. В этом разделе можно формировать базы знаний, которые в дальнейшем могут использоваться ботами для ответов.

	Каждая база знаний привязывается к конкретному сервису ИИ и определяется набором файлов.		Каждая база знаний привязывается к конкретному сервису ИИ и определяется набором файлов, также база может переопределять конкретную модель ИИ (из доступных в сервисе), которая будет с ней использоваться.

	В базу знаний можно загрузить файлы следующих форматов:		В базу знаний можно загрузить файлы следующих форматов:
Строка 202:		Строка 213:
	* Ответ на вопрос - разовый запрос к ИИ-боту, не предусматривающий ведение дальнейшего диалога		* Ответ на вопрос - разовый запрос к ИИ-боту, не предусматривающий ведение дальнейшего диалога

	Концепция использования ИИ-ботов в сценариях чата не предусматривает полноценный "перевод" чата на бота, как на сотрудника. Вместо этого, подразумевается встраивание ~~отдельных~~ запросов к боту в рамках алгоритма сценария чата. Такой подход позволяет создавать как сценарии для полноценного диалогового общения с ботом (используя компоненты взаимодействия с ботом в цикле), так и для разовых запросов, для получения какой-либо информации (или, например, валидации данных).		Концепция использования ИИ-ботов в сценариях чата не предусматривает полноценный "перевод" чата на бота, как на сотрудника. Вместо этого, подразумевается встраивание цикла запросов к боту в рамках алгоритма сценария чата. Такой подход позволяет создавать как сценарии для полноценного диалогового общения с ботом (используя компоненты взаимодействия с ботом в цикле), так и для разовых запросов, для получения какой-либо информации (или, например, валидации данных).
	[[Файл:Пример сценария чата с ИИ.png\|мини\|Пример сценария чата с ИИ]]		[[Файл:Пример сценария чата с ИИ.png\|мини\|Пример сценария чата с ИИ]]
	Компонент '''ИИ-ассистент старт''' создаст новый диалог и сохранит его ~~идентфикатор в~~ переменную, а ~~так же~~ вернет ответ бота. Если необходимо этот диалог продолжить, то необходимо использовать компонент '''ИИ-ассистент продолжение''' с сохраненным идентификатором диалога.		Компонент '''ИИ-ассистент старт''' создаст новый диалог и сохранит его идентификаторв переменную, а также вернет ответ бота. Если необходимо этот диалог продолжить, то необходимо использовать компонент '''ИИ-ассистент продолжение''' с сохраненным идентификатором диалога.
	[[Категория:Приложения]]		[[Категория:Приложения]]

AZykov: /* Настройка и использование ботов */

2025-07-28T09:15:31Z

Настройка и использование ботов

← Предыдущая версия		Версия от 09:15, 28 июля 2025
Строка 170:		Строка 170:
	\|Файловая база знаний, определяющая контекст информации, по которой бот будет осуществлять поиск. Позволяет дополнить публичную языковую модель специфичной бизнес-информацией. '''Данная настройка является опциональной''', в случае если база знаний не используется - бот будет оперировать только информацией, доступной в модели.		\|Файловая база знаний, определяющая контекст информации, по которой бот будет осуществлять поиск. Позволяет дополнить публичную языковую модель специфичной бизнес-информацией. '''Данная настройка является опциональной''', в случае если база знаний не используется - бот будет оперировать только информацией, доступной в модели.
	\|-		\|-
	\|~~Систмный~~ промпт		\|Системный и пользовательский промпт
	\|~~Инструкция~~ для языковой модели, ~~определяющая~~ её поведение. ~~Самый важный параметр~~ бота, ~~он определяет~~ всё от стиля общения, до ограничений в использовании бота клиентом (например, можно запретить боту отвечать на запросы, не связанные с конкретной бизнес-областью)		\|Инструкции для языковой модели, определяющие её поведение. Самые важные параметры бота, они определяют всё от стиля общения, до ограничений в использовании бота клиентом (например, можно запретить боту отвечать на запросы, не связанные с конкретной бизнес-областью).
			В зависимости от используемых моделей, используются разные подходы к заполнению системного и пользовательского промпта.
			Пользовательский промпт отправляется в сервис ИИ первым сообщением от лица "пользователя".
			Пример использования:<blockquote>system: ты умный помощник
			user: твоя задача... верни ответ в формате...

			user: сколько времени?</blockquote>
	\|-		\|-
	\|Модель		\|Модель
	\|Если сервис GPT предоставляет несколько моделей для использования, позволяет ~~задать конкретную~~ модель		\|Если сервис GPT предоставляет несколько моделей для использования, позволяет переопределить модель, выбранную в сервисе.
	\|-		\|-
	\|Температура		\|Температура

AZykov: /* Установка сервиса AI Proxy */

2025-07-28T09:01:22Z

Установка сервиса AI Proxy

← Предыдущая версия		Версия от 09:01, 28 июля 2025
Строка 23:		Строка 23:
	Сервис AI Proxy работает как docker-контейнер и является отдельным микросервисом, не входящим в контур платформы эра. Соответственно, он не управляется доменным центром платформы, не осуществляется автоматическая миграция и сборка логов. Сервис может быть развернут как на одном из сервером, обслуживающем платформу, так и на отдельном сервере (например, отдельном сервере для LLM с GPU).		Сервис AI Proxy работает как docker-контейнер и является отдельным микросервисом, не входящим в контур платформы эра. Соответственно, он не управляется доменным центром платформы, не осуществляется автоматическая миграция и сборка логов. Сервис может быть развернут как на одном из сервером, обслуживающем платформу, так и на отдельном сервере (например, отдельном сервере для LLM с GPU).

	Сам по себе AI Proxy не запускает модели, ~~а только лишь~~ преобразует и маршрутизирует запросы к ним.		Сам по себе AI Proxy не запускает модели, но преобразует и маршрутизирует запросы к ним, а так же хранит индексы RAG.

	Установка контейнера сервиса выполняется несколькими простыми командами:<syntaxhighlight lang="bash">		Установка контейнера сервиса выполняется несколькими простыми командами:<syntaxhighlight lang="bash">
Строка 34:		Строка 34:
	--restart unless-stopped \		--restart unless-stopped \
	era/ai_proxy:1.1.0		era/ai_proxy:1.1.0
	</syntaxhighlight>После чего он становится доступен на ~~портах 32443 (HTTPS) и~~ 32080 (HTTP).		</syntaxhighlight>После чего он становится доступен на порту 32080 (HTTP).
	[[Файл:Установка адреса прокси в параметрах системы.png\|мини\|Установка адреса прокси в параметрах системы]]		[[Файл:Установка адреса прокси в параметрах системы.png\|мини\|Установка адреса прокси в параметрах системы]]
	После запуска сервиса, необходимо в вашем основном (не мастер) домене, в приложении '''Администратор платформы''', раздел '''Параметры''' -> '''Система''', задать значение параметра ai.service.address (пример на скриншоте).		После запуска сервиса, необходимо в вашем основном (не мастер) домене, в приложении '''Администратор платформы''', раздел '''Параметры''' -> '''Система''', задать значение параметра ai.service.address (пример на скриншоте).
Строка 78:		Строка 78:

	= Установка языковых моделей =		= Установка языковых моделей =
	Так как платформа Эра использует подход RAG, в каждой инсталляции присутствует как минимум две модели - RAG (embedding) и LLM (~~сама языковая модель~~).		Так как платформа Эра использует подход RAG, в каждой инсталляции присутствует как минимум две модели - RAG (embedding) и LLM (chat completion).

	Embedding-модель позволяет трансформировать текстовые данные (например, данные из базы знаний) в понятные для ИИ ~~эмбеддинги~~, которые уже будут использоваться при обращении к языковой модели.		Embedding-модель позволяет трансформировать текстовые данные (например, данные из базы знаний) в понятные для ИИ числовые векторы, которые уже будут использоваться при обращении к языковой модели.

	Далее, рассмотрим два примера установки локальных моделей.		Далее, рассмотрим два примера установки локальных моделей.
Строка 102:		Строка 102:
	Каталог моделей доступен на [https://localai.io/gallery.html официальном сайте].		Каталог моделей доступен на [https://localai.io/gallery.html официальном сайте].

	После установки контейнера, необходимо добавить новый сервис в приложении ИИ (в разделе Сервисы GPT). Пример настройки представлен на скриншоте. В ~~случае успешного подключения~~, в интерфейсе должен появиться список доступных моделей.		После установки контейнера, необходимо добавить новый сервис в приложении ИИ (в разделе Сервисы GPT). Пример настройки представлен на скриншоте. В сохранения настроек и нажатия на кнопку "Запросить модели", в интерфейсе должен появиться список доступных моделей.

	=== Установка Ollama ===		=== Установка Ollama ===