change prompt

.gitignore

@@ -1,3 +1,5 @@
 .env
 __pycache__/
 outputs/*
+venv/
+

app.py

@@ -1,85 +1,23 @@
 import gradio as gr
-from pathlib import Path
-
-# Подгрузка сервисов
-from services.llm import Llm
-from services.fasterWhisper import FasterWhisper
-from services.convertMdToPdf import ConvertMdToPdf
 
 # Загрузка параметров конфигурации
 from config import *
 
-# Функция транскрибации
+# Подгрузка сервисов
-def generateByCondition(api_key, llm_model, system_prompt, recognized_text, llm_temperature, is_pipeline_enabled, trigger, isSaveFile, filename, filenamePdf):
+from services.llm_factory import get_llm_provider
-    llm = Llm(api_key)
-
-    # если чекбокс включен и событие было change → обрабатываем
-    if is_pipeline_enabled and trigger == "change":
-        result, md = llm.generate(llm_model, system_prompt, recognized_text, llm_temperature)
-
-        # Конвертируем текст с латексом в юникод
-        pdf, unicodeText = ConvertMdToPdf().convertLatexToText(md)
-
-        if isSaveFile:
-            savePdf(filenamePdf, pdf)
-            saveFile(filename, result)
-
-        return result, unicodeText
-
-    # если чекбокс выключен и событие было click → обрабатываем
-    if not is_pipeline_enabled and trigger == "click":
-        result, md = llm.generate(llm_model, system_prompt, recognized_text, llm_temperature)
-
-        # Конвертируем текст с латексом в юникод
-        pdf, unicodeText = ConvertMdToPdf().convertLatexToText(md)
-
-        if isSaveFile:
-            savePdf(filenamePdf, pdf)
-            saveFile(filename, result)
-
-        return result, unicodeText
-
-    # если нет чекбокса и было событие change
-    return gr.skip(), gr.skip()
 
 
-def savePdf(filename, pdf):
-    directory = Path(OUTPUT_PATH)
-    filePath = directory / filename
-    filePath.parent.mkdir(parents=True, exist_ok=True)
-    pdf.save(filePath)
 
-# Функция сохранеhния файла
+# Загрузка доп. модулей
-def saveFile(filename, text):
+from handlers.gradioHandler import GradioHandlers
-    directory = Path(OUTPUT_PATH)
+from handlers.fileHandlers import FileHandlers
-    filePath = directory / filename
+from services.fasterWhisper import FasterWhisper
-    filePath.parent.mkdir(parents=True, exist_ok=True)
+from handlers.convertMdToPdf import ConvertMdToPdf
-    filePath.write_text(text, encoding='utf-8')
+from handlers.glueAudio import GlueAudio
 
-#    ConvertMdToPdf().convert(text)
+gh = GradioHandlers(get_llm_provider, ConvertMdToPdf, FileHandlers, FasterWhisper, GlueAudio)
-
-# Функция для динамического обновления кнопки в зависимости от состояния checkbox
-def updateButton(isChecked):
-    if not isChecked:
-        variant = 'primary'
-    else:
-        variant = 'secondary'
-
-    return gr.update(interactive=not isChecked, variant=variant)
-
-
-def updateTextbox(isChecked):
-    return gr.update(visible=isChecked)
-
-###################################################
-# ____ ___.___  ___.          .__                 #
-#|    |   \   | \_ |__   ____ |  |   ______  _  __#
-#|    |   /   |  | __ \_/ __ \|  |  /  _ \ \/ \/ /#
-#|    |  /|   |  | \_\ \  ___/|  |_(  <_> )     / #
-#|______/ |___|  |___  /\___  >____/\____/ \/\_/  #
-#                    \/     \/                    #
-###################################################
 
+def main():
     with gr.Blocks() as demo:
         gr.HTML('''
         <div align=center>
@@ -97,7 +35,7 @@ with gr.Blocks() as demo:
                 with gr.Row():
                     with gr.Accordion(label='Recognization and integration'):
                         with gr.Column():
-                        audioFile = gr.Audio(label='Load audio for transcribe', type="filepath")
+                            audioFiles = gr.Files(label='Load audio for transcribe', type="filepath")
                             images = gr.Files(label='Upload images', file_types=['image'])
                             recognizeBtn = gr.Button('recognize and integrate', variant='primary')
 
@@ -128,8 +66,8 @@ with gr.Blocks() as demo:
                         with gr.Row():
                             # Левая колонка в акордионе
                             with gr.Column():
-                            device = gr.Dropdown(label='Device', choices=["cpu", "cuda"], value="cuda", interactive=True)
+                                device = gr.Dropdown(label='Device', choices=DEVICES, value=DEVICES[1], interactive=True)
-                            compute_type = gr.Dropdown(label='compute_type', choices=["auto", "int8", "float16", "float32"], value="auto", interactive=True)
+                                compute_type = gr.Dropdown(label='compute_type', choices=COMPUTE_TYPE, value=COMPUTE_TYPE[0], interactive=True)
                                 fastWhisperModel = gr.Dropdown(label='Model', choices=FAST_WHISPER_MODELS, value=FAST_WHISPER_MODELS[11], interactive=True)
 
                                 beamSize = gr.Number(label='beam_size', value=8, interactive=True)
@@ -138,8 +76,6 @@ with gr.Blocks() as demo:
                                 wordTimestamps = gr.Checkbox(label='word_timestamps', value=True, interactive=True)
                                 conditionOnPreviousText = gr.Checkbox(label='condition_on_previous_text', value=False, interactive=True)
 
-                            
-
                             # Правая колонка в акордионе
                             with gr.Column():
                                 with gr.Accordion(label='Vad parameters'):
@@ -152,44 +88,58 @@ with gr.Blocks() as demo:
                                     temp2 = gr.Number(label='temp_2', value=0.4, interactive=True)
 
                     # Нижний акордион настроек для api ключа llm
-                with gr.Accordion(label='ai.io.net api settings'):
+                    with gr.Accordion(label='LLM settings'):
-                    apiKey = gr.Textbox(label='API key', value=DEFAULT_API_KEY, interactive=True)
+                        apiKey = gr.Textbox(label='API key (required for io.net, Gemini)', value=DEFAULT_API_KEY, interactive=True)
 
                         with gr.Accordion(label='System prompt'):
                             systemPrompt = gr.Textbox(label='', value=DEFAULT_SYSTEM_PROMPT, interactive=True)
 
                         with gr.Row():
-                        llmModel = gr.Dropdown(label='models', choices=LLM_MODELS, value=LLM_MODELS[1], interactive=True)
+                            # ВЫБОР ПРОВАЙДЕРА
+                            llmProvider = gr.Dropdown(
+                                label='LLM Provider', 
+                                choices=LLM_PROVIDERS, 
+                                value=LLM_PROVIDERS[0], 
+                                interactive=True
+                            )
+                            # СПИСОК МОДЕЛЕЙ (теперь зависит от провайдера)
+                            llmModel = gr.Dropdown(
+                                label='Models', 
+                                choices=LLM_MODELS[LLM_PROVIDERS[0]], # Модели для провайдера по умолчанию
+                                value=LLM_MODELS[LLM_PROVIDERS[0]][1], 
+                                interactive=True
+                            )
                             llmTemperature = gr.Number(label='Temperature', value=0.8, interactive=True)
 
-    ######################################################################
+        isPipelineEnabledCheckbox.change(gh.updateButton, inputs=[isPipelineEnabledCheckbox], outputs=refineTextBtn)
-    #.____                 .__         ___.          .__                 #
+        saveFileCheckbox.change(gh.updateTextbox, inputs=saveFileCheckbox, outputs=filename)
-    #|    |    ____   ____ |__| ____   \_ |__   ____ |  |   ______  _  __#
+        saveFileCheckbox.change(gh.updateTextbox, inputs=saveFileCheckbox, outputs=filenamePdf)
-    #|    |   /  _ \ / ___\|  |/ ___\   | __ \_/ __ \|  |  /  _ \ \/ \/ /#
-    #|    |__(  <_> ) /_/  >  \  \___   | \_\ \  ___/|  |_(  <_> )     / #
-    #|_______ \____/\___  /|__|\___  >  |___  /\___  >____/\____/ \/\_/  #
-    #        \/    /_____/         \/       \/     \/                    #
-    ######################################################################
 
-    isPipelineEnabledCheckbox.change(updateButton, inputs=[isPipelineEnabledCheckbox], outputs=refineTextBtn)
+        recognizeBtn.click(gh.handleRecognizeBtn, outputs=[recognizedText], inputs=[audioFiles, fastWhisperModel, device, compute_type, beamSize, vadFilter, minSilenceDurationMs, speechPadMs, temp0, temp1, temp2, wordTimestamps, noSpeechThreshold, conditionOnPreviousText, gr.State(GLUED_AUDIO_FILENAME), gr.State(OUTPUT_PATH)])
-    saveFileCheckbox.change(updateTextbox, inputs=saveFileCheckbox, outputs=filename)
-    saveFileCheckbox.change(updateTextbox, inputs=saveFileCheckbox, outputs=filenamePdf)
-
-    recognizeBtn.click(FasterWhisper().recognize, outputs=[recognizedText], inputs=[fastWhisperModel, device, compute_type, audioFile, beamSize, vadFilter, minSilenceDurationMs, speechPadMs, temp0, temp1, temp2, wordTimestamps, noSpeechThreshold, conditionOnPreviousText])
         
         # Если пайплайн включен то тогда делаем автоматически
         # автоматический пайплайн
         recognizedText.change(
-        generateByCondition,
+            gh.generateByCondition,
-        inputs=[apiKey, llmModel, systemPrompt, recognizedText, llmTemperature, isPipelineEnabledCheckbox, gr.State("change"), saveFileCheckbox, filename, filenamePdf],
+            inputs=[apiKey, llmProvider, llmModel, systemPrompt, recognizedText, llmTemperature, isPipelineEnabledCheckbox, gr.State("change"), saveFileCheckbox, filename, filenamePdf, gr.State(OUTPUT_PATH)],
             outputs=[refinedText, refinedTextMD]
         )
         
+
+
         # ручной запуск по кнопке
+        llmProvider.change(
+            gh.update_model_dropdown, 
+            inputs=llmProvider, 
+            outputs=llmModel
+        )
         refineTextBtn.click(
-        generateByCondition,
+            gh.generateByCondition,
-        inputs=[apiKey, llmModel, systemPrompt, recognizedText, llmTemperature, isPipelineEnabledCheckbox, gr.State("click"), saveFileCheckbox, filename, filenamePdf],
+            inputs=[apiKey, llmProvider, llmModel, systemPrompt, recognizedText, llmTemperature, isPipelineEnabledCheckbox, gr.State("click"), saveFileCheckbox, filename, filenamePdf, gr.State(OUTPUT_PATH)],
             outputs=[refinedText, refinedTextMD]
         )
 
     demo.launch()
+
+if __name__ == '__main__':
+    main()

config.py

@@ -4,45 +4,84 @@ from dotenv import load_dotenv
 load_dotenv()
 
 FAST_WHISPER_MODELS = ['tiny', 'base', 'small', 'medium', 'large-v1', 'large-v2', 'large-v3', 'large', 'distil-large-v2', 'distil-large-v3', 'distil-large-v3.5', 'large-v3-turbo', 'turbo']
-LLM_MODELS = ['openai/gpt-oss-120b', 'Qwen/Qwen3-235B-A22B-Thinking-2507', 'deepseek-ai/DeepSeek-R1-0528', 'meta-llama/Llama-4-Maverick-17B-128E-Instruct-FP8', 'openai/gpt-oss-20b', 'Intel/Qwen3-Coder-480B-A35B-Instruct-int4-mixed-ar', 'meta-llama/Llama-3.2-90B-Vision-Instruct', 'mistralai/Mistral-Nemo-Instruct-2407', 'Qwen/Qwen2.5-VL-32B-Instruct', 'meta-llama/Llama-3.3-70B-Instruct', 'mistralai/Devstral-Small-2505', 'mistralai/Magistral-Small-2506', 'mistralai/Mistral-Large-Instruct-2411', 'CohereForAI/aya-expanse-32b']
+DEVICES = ['cpu', 'cuda']
-
+COMPUTE_TYPE = ['auto', 'int8', 'float16', 'float32']
 
 # Стандартный API ключ
 DEFAULT_API_KEY=os.getenv('API_KEY')
+
+# Словарь провайдеров и их моделей
+LLM_PROVIDERS = ['io.net', 'Gemini', 'gpt4free']
+LLM_MODELS = {
+    'io.net': [
+        'openai/gpt-oss-120b', 'Qwen/Qwen3-235B-A22B-Thinking-2507', 
+        'deepseek-ai/DeepSeek-R1-0528', 'meta-llama/Llama-4-Maverick-17B-128E-Instruct-FP8', 
+        'openai/gpt-oss-20b', 'Intel/Qwen3-Coder-480B-A35B-Instruct-int4-mixed-ar', 
+        'meta-llama/Llama-3.2-90B-Vision-Instruct', 'mistralai/Mistral-Nemo-Instruct-2407', 
+        'Qwen/Qwen2.5-VL-32B-Instruct', 'meta-llama/Llama-3.3-70B-Instruct', 
+        'mistralai/Devstral-Small-2505', 'mistralai/Magistral-Small-2506', 
+        'mistralai/Mistral-Large-Instruct-2411', 'CohereForAI/aya-expanse-32b'
+    ],
+    'Gemini': [
+        'gemini-2.5-pro',
+        'gemini-2.5-flash',
+        'gemini-2.5-flash-lite'
+    ],
+    'gpt4free': [ # Модели могут меняться, проверьте документацию g4f
+        'default',
+        'gpt-4',
+        'sonar-reasoning',
+        'command-r-plus',
+        'llama-3.3-70b',
+        'hermes-3-llama-3.1-405b'
+        'qwen-3-235b',
+        'gpt-4o-mini',
+        'deepseek-r1',
+        'PollinationsAI:gpt-5-nano'
+    ]
+}
+
 # Задаем выходную директорию
 OUTPUT_PATH='outputs'
 
-DEFAULT_SYSTEM_PROMPT='''You are a diligent university student who has recorded a lecture as an audio file and later transcribed it into raw text. 
+GLUED_AUDIO_FILENAME='glued.mp3'
-Your task is to rewrite this unstructured transcript into a clear, logically organized, and detailed lecture summary (lecture notes).  
 
-Guidelines:
+DEFAULT_SYSTEM_PROMPT='''
-1. Structure:
+You are a smart university student creating easy-to-understand study notes summary of lesson  for a classmate who is a beginner. Your source is a raw text/audio transcript.
-   - Organize the text into a hierarchy of sections and subsections.  
-   - Use headings, bullet points, or numbering where appropriate.  
-   - Present the material in a logical flow (from introduction → main points → details → examples → conclusion).  
 
-2. Clarity & Cohesion:
+GOAL: rewrite the information into a clear, structured summary in RUSSIAN.
-   - Remove filler words, repetitions, and irrelevant fragments.  
-   - Rewrite incomplete sentences into full, grammatically correct sentences.  
-   - Ensure smooth transitions between topics, making the summary feel continuous and well-connected.  
 
-3. Depth & Detail: 
+KEY RULES FOR CONTENT:
-   - Capture all important concepts, definitions, examples, and explanations from the lecture.  
+1.  **Logical Structure:** Use Markdown headers (#, ##), bullet points, and short paragraphs.
-   - Expand shorthand or fragmented thoughts into full, precise explanations.  
+2.  **No "Water":** Remove filler words. Keep only practical information.
-   - Where appropriate, rephrase or clarify confusing passages for better understanding.  
+3.  **Student Tone:** Write naturally, as if sharing notes with a friend. Avoid robotic phrases like "It is important to note".
 
-4. Accuracy:
+KEY RULES FOR LATEX (CRITICAL FOR PYLATEXENC):
-   - Preserve the lecturer’s original meaning, intent, and terminology.  
+1.  **Math Mode:** ANY variable (like t, L, C), number in a formula, or equation MUST be wrapped in dollar signs `$`.
-   - Avoid adding personal opinions or new information that was not in the lecture.  
+    *   BAD: i(t) = i_pr + i_sv
+    *   GOOD: $i(t) = i_{pr} + i_{sv}$
+2.  **Subscripts:** Always use curly braces `{}` for subscripts longer than one character.
+    *   BAD: $i_pr$
+    *   GOOD: $i_{pr}$ (or $i_{пр}$ if using cyrillic)
+3.  **Symbols:** Use standard LaTeX commands for symbols.
+    *   Arrow: use `\to` (e.g., $t \to \infty$).
+    *   Infinity: use `\infty`.
+    *   Multiplication: use `\cdot` or just space.
+4.  **Consistency:** Never leave a mathematical symbol as plain text. If you mention "current i", write "ток $i$".
 
-5. Style:
+EXAMPLE OF DESIRED OUTPUT FORMAT:
-   - Write in a formal, academic tone suitable for study notes.  
+# Тема лекции
-   - Aim for readability: concise sentences, but thorough coverage of concepts.  
+## Основные понятия
-   - Use emphasis (e.g., bold or italic text) only when it improves comprehension.  
+*   **Переходный процесс** — это когда цепь перестраивается с одного режима на другой (например, щелкнули выключателем).
+*   Математически это описывается дифференциальными уравнениями. Порядок уравнения = количеству реактивных элементов ($L$ и $C$).
 
-Final Output: A cohesive, detailed, and well-structured lecture summary, suitable for later studying and revision.
+## Классический метод
-Use only russian language!
+Решение ищется в виде суммы двух частей:
-USE LATEX IN DOLLAR SIGN ($)!
+$$i(t) = i_{pr} + i_{sv}$$
-EXTRA BIG LENTH OF CONSPECT!
+
+1.  **Принужденная составляющая** ($i_{pr}$) — это режим, который установится в будущем, когда все успокоится ($t \to \infty$).
+2.  **Свободная составляющая** ($i_{sv}$) — это то, что происходит "само по себе" из-за энергии, запасенной в $L$ и $C$.
+
+***
+STRICTLY FOLLOW THESE FORMATTING RULES. OUTPUT IN RUSSIAN.
 '''
-

handlers/convertMdToPdf.py

@@ -6,6 +6,13 @@ from markdown_pdf import Section
 class ConvertMdToPdf:
     # Конвертирует md в pdf
     def convertLatexToText(self, text:str):
+        '''
+        Функция для конвертации LaTeX в текст;
+
+        Args:
+            :param text: текст содержащий LaTeX.
+        '''
+
         # Обрабатываем только математические выражения
         text = re.sub(
             r'\$\$(.*?)\$\$|\$(.*?)\$', 

handlers/fileHandlers.py

@@ -0,0 +1,31 @@
+from pathlib import Path
+
+# Для аннотации типов
+from markdown_pdf import MarkdownPdf 
+from pydub import AudioSegment
+
+class FileHandlers:
+    # Функция сохранения файла
+    def saveFile(self, filename, content, output_path, format='mp3'):
+        '''
+        Сохраняет текст, pdf из markdown_pdf или склеенный аудиофайл в файл с указанным названием и директорией.
+
+        Args:
+            :param filename: название файла;
+            :param content: содержание файла;
+            :param output_path: выходная диретория файла.
+        '''
+        # Создание объекта директории
+        directory = Path(output_path)
+        filePath = directory / filename # Добавление пути директории
+        filePath.parent.mkdir(parents=True, exist_ok=True) # Создание директории если не существует
+
+        # Сохранение для разных типов
+        if type(content) == MarkdownPdf:
+            return content.save(filePath)
+
+        elif type(content) == str:
+            return filePath.write_text(content, encoding='utf-8')
+
+        elif type(content) == AudioSegment:
+            return content.export(filePath, format=format)

handlers/glueAudio.py

@@ -0,0 +1,11 @@
+from pydub import AudioSegment
+
+class GlueAudio():
+    def glue(self, audioFiles):
+        glued = AudioSegment.empty()
+
+        for audioFile in audioFiles:
+            audio = AudioSegment.from_file(audioFile)
+            glued += audio
+
+        return glued

handlers/gradioHandler.py

@@ -0,0 +1,67 @@
+from config import LLM_MODELS # Импортируем словарь моделей
+import gradio as gr 
+
+
+class GradioHandlers:
+    def __init__(self, llm_factory, ConvertMdToPdf, FileHandlers, FasterWhisper, GlueAudio):
+        # Объект для работы с файлами
+        self.fh = FileHandlers()
+        self.ga = GlueAudio()
+        self.ConvertMdToPdf = ConvertMdToPdf()
+        self.FasterWhisper = FasterWhisper()
+        self.llm_factory = llm_factory # Сохраняем фабрику
+
+    def handleRecognizeBtn(self, audioFiles, model, device, compute_type, beamSize, vadFilter, minSilenceDurationMs, speechPadMs, temp0, temp1, temp2, wordTimestamps, noSpeechThreshold, conditionOnPreviousText, filename, outPath):
+        audioFile = self.ga.glue(audioFiles)
+        file = self.fh.saveFile(filename, audioFile, outPath)
+
+        return self.FasterWhisper.recognize(model, device, compute_type, file, beamSize, vadFilter, minSilenceDurationMs, speechPadMs, temp0, temp1, temp2, wordTimestamps, noSpeechThreshold, conditionOnPreviousText)
+
+    # Функция улучшения текста
+    def generateByCondition(self, api_key, llm_provider, llm_model, system_prompt, recognized_text, llm_temperature, is_pipeline_enabled, trigger, isSaveFile, filename, filenamePdf, output_path):
+        try:
+            # Получаем нужный провайдер через фабрику
+            provider = self.llm_factory(llm_provider, api_key)
+        except ValueError as e:
+            # Если API ключ не предоставлен для нужного провайдера, выводим ошибку
+            self.gr.Warning(str(e))
+            return self.gr.skip(), self.gr.skip()
+
+        def process():
+            result, md = provider.generate(llm_model, system_prompt, recognized_text, llm_temperature)
+            pdf, unicodeText = self.ConvertMdToPdf.convertLatexToText(md)
+            if isSaveFile:
+                self.fh.saveFile(filenamePdf, pdf, output_path)
+                self.fh.saveFile(filename, result, output_path)
+            return result, unicodeText
+
+        if (is_pipeline_enabled and trigger == "change") or (not is_pipeline_enabled and trigger == "click"):
+            return process()
+
+        return gr.skip(), gr.skip()
+    
+    # НОВАЯ ФУНКЦИЯ для обновления списка моделей
+    def update_model_dropdown(self, provider):
+        """
+        Вызывается при изменении llmProvider.
+        Возвращает обновленный компонент Dropdown для моделей.
+        """
+        # Получаем список моделей для выбранного провайдера
+        models = LLM_MODELS.get(provider, [])
+        
+        # Выбираем первое значение по умолчанию, если список не пуст
+        default_value = models[0] if models else None
+        
+        # Возвращаем обновленный компонент. Используем 'gr' напрямую.
+        return gr.update(choices=models, value=default_value)
+
+     # Функция для динамического обновления кнопки
+    def updateButton(self, isChecked):
+        if not isChecked:
+            variant = 'primary'
+        else:
+            variant = 'secondary'
+        return gr.update(interactive=not isChecked, variant=variant)
+
+    def updateTextbox(self, isChecked):
+        return gr.update(visible=isChecked)

services/fasterWhisper.py

@@ -23,7 +23,7 @@ class FasterWhisper:
         for seg in segments:
             text += f"[{self.format_timestamp(seg.start)} -> {self.format_timestamp(seg.end)}] {seg.text}" + '\n'
         
-        return(text)
+        return text
 
     def format_timestamp(self, seconds: float) -> str:
         millis = int(seconds * 1000)

services/llm.py

@@ -1,31 +0,0 @@
-import openai
-
-class Llm:
-    def __init__(self, apiKey:str):
-        self.client = openai.OpenAI(
-            api_key=apiKey,
-            base_url='https://api.intelligence.io.solutions/api/v1/'
-        )
-
-    def generate(self, model:str, systemPrompt:str, userPrompt:str, temp:float):
-        '''
-        prompt[user_promtp, system_ptompt]
-        Function generate text by prompt
-        '''
-
-        # Получаем ответ от нейросети
-        response = self.client.chat.completions.create(
-            model=model,
-            messages=[
-                {'role': 'system', 'content': systemPrompt},
-                {'role': 'user', 'content': userPrompt},
-            ],
-            temperature=temp,
-            stream=False
-        ) 
-
-        # Достаем текст
-        text = str(response.choices[0].message.content)
-
-        return text, text
-

services/llm_factory.py

@@ -0,0 +1,22 @@
+# services/llm_factory.py
+from services.llm_providers.ionet_provider import IoNetProvider
+from services.llm_providers.gemini_provider import GeminiProvider
+from services.llm_providers.gpt4free_provider import Gpt4FreeProvider
+from services.llm_providers.base_provider import BaseLLMProvider
+
+def get_llm_provider(provider_name: str, api_key: str | None) -> BaseLLMProvider:
+    """
+    Фабричная функция для получения экземпляра провайдера LLM.
+    """
+    if provider_name == 'io.net':
+        if not api_key:
+            raise ValueError("API ключ обязателен для io.net")
+        return IoNetProvider(api_key)
+    elif provider_name == 'Gemini':
+        if not api_key:
+            raise ValueError("API ключ обязателен для Gemini")
+        return GeminiProvider(api_key)
+    elif provider_name == 'gpt4free':
+        return Gpt4FreeProvider()
+    else:
+        raise ValueError(f"Неизвестный провайдер: {provider_name}")

services/llm_providers/base_provider.py

@@ -0,0 +1,18 @@
+from abc import ABC, abstractmethod
+
+class BaseLLMProvider(ABC):
+    """
+    Абстрактный базовый класс для всех провайдеров LLM.
+    Каждый провайдер должен реализовать метод generate.
+    """
+    def __init__(self, api_key: str | None = None):
+        self.api_key = api_key
+
+    @abstractmethod
+    def generate(self, model: str, system_prompt: str, user_prompt: str, temp: float):
+        """
+        Основной метод для генерации текста.
+
+        Должен возвращать кортеж из двух строк: (чистый_текст, markdown_текст)
+        """
+        pass

services/llm_providers/gemini_provider.py

@@ -0,0 +1,74 @@
+# services/llm_providers/gemini_provider.py
+
+import requests
+from .base_provider import BaseLLMProvider
+
+class GeminiProvider(BaseLLMProvider):
+    """
+    Провайдер для Google Gemini, использующий прямые REST API вызовы 
+    через библиотеку requests для надежной работы с SOCKS-прокси.
+    """
+    def __init__(self, api_key: str):
+        super().__init__(api_key)
+        self.base_url = "https://generativelanguage.googleapis.com/v1beta/models/"
+
+    def generate(self, model: str, system_prompt: str, user_prompt: str, temp: float):
+        """
+        Генерирует текст с помощью модели Gemini, отправляя запрос через прокси.
+        """
+        # 1. Формируем URL для запроса
+        api_url = f"{self.base_url}{model}:generateContent?key={self.api_key}"
+
+        # 2. Задаем настройки прокси из вашего примера
+        # socks5h:// означает, что DNS-запросы также будут идти через прокси
+        proxies = {
+            'http': 'socks5://192.168.1.6:2080',
+            'https': 'socks5h://192.168.1.6:2080'
+        }
+
+        # 3. Собираем тело запроса (payload) в формате, который ожидает Gemini API
+        data = {
+            "system_instruction": {
+                "parts": {"text": system_prompt}
+            },
+            "contents": [{
+                "parts": [{"text": user_prompt}]
+            }],
+            "generationConfig": {
+                "temperature": temp
+            }
+        }
+        
+        try:
+            # 4. Отправляем POST-запрос с данными и настройками прокси
+            response = requests.post(api_url, json=data, proxies=proxies, timeout=90)
+            
+            # Проверяем, не вернул ли сервер ошибку (например, 4xx или 5xx)
+            response.raise_for_status()
+
+            # 5. Парсим JSON-ответ и извлекаем сгенерированный текст
+            response_json = response.json()
+            
+            # Добавим проверку на случай, если контент был заблокирован
+            if "candidates" not in response_json or not response_json["candidates"]:
+                block_reason = response_json.get("promptFeedback", {}).get("blockReason", "неизвестная причина")
+                error_message = f"Контент заблокирован. Причина: {block_reason}"
+                return error_message, error_message
+
+            text = response_json["candidates"][0]["content"]["parts"][0]["text"]
+            return text, text
+
+        except requests.exceptions.ProxyError as e:
+            error_message = f"Ошибка подключения к прокси. Убедитесь, что Nekobox запущен и слушает порт 2080. Ошибка: {e}"
+            print(error_message)
+            return error_message, error_message
+        except requests.exceptions.RequestException as e:
+            # Ловим все остальные ошибки requests (таймаут, проблемы с сетью и т.д.)
+            error_message = f"Произошла ошибка при обращении к API Gemini: {e}"
+            print(error_message)
+            return error_message, error_message
+        except (KeyError, IndexError) as e:
+            # Ловим ошибки, если структура JSON-ответа неожиданная
+            error_message = f"Не удалось разобрать ответ от API Gemini. Структура ответа изменилась. Ошибка: {e}"
+            print(error_message)
+            return error_message, error_message

services/llm_providers/gpt4free_provider.py

@@ -0,0 +1,28 @@
+# services/llm_providers/gpt4free_provider.py
+from g4f.client import Client
+from .base_provider import BaseLLMProvider
+
+class Gpt4FreeProvider(BaseLLMProvider):
+    # gpt4free не требует API ключа
+    def __init__(self, api_key: str | None = None):
+        super().__init__(api_key)
+        self.client = Client()
+
+
+    def generate(self, model: str, system_prompt: str, user_prompt: str, temp: float):
+        # temp в g4f может работать не для всех внутренних провайдеров
+        try:
+            response = self.client.chat.completions.create(
+            model=model,  # Пример модели, может варьироваться в зависимости от доступности провайдеров
+            messages=[
+                {"role": "system", "content": system_prompt},
+                {"role": "user", "content": user_prompt}
+                ],
+                temperature=temp
+            )
+            text = response.choices[0].message.content
+            return text, text
+        except Exception as e:
+            error_message = f"Ошибка при работе с gpt4free: {e}"
+            print(error_message)
+            return error_message, error_message

services/llm_providers/ionet_provider.py

@@ -0,0 +1,23 @@
+import openai
+from .base_provider import BaseLLMProvider
+
+class IoNetProvider(BaseLLMProvider):
+    def __init__(self, api_key: str):
+        super().__init__(api_key)
+        self.client = openai.OpenAI(
+            api_key=self.api_key,
+            base_url='https://api.intelligence.io.solutions/api/v1/'
+        )
+
+    def generate(self, model: str, system_prompt: str, user_prompt: str, temp: float):
+        response = self.client.chat.completions.create(
+            model=model,
+            messages=[
+                {'role': 'system', 'content': system_prompt},
+                {'role': 'user', 'content': user_prompt},
+            ],
+            temperature=temp,
+            stream=False
+        )
+        text = str(response.choices[0].message.content)
+        return text, text # Возвращаем как чистый текст, так и Markdown