Мы могли бы реализовать что-то подобное с помощью триажи персонажей и пользовательского инструмента.
Триажа персонажей (gpt 4o mini) → пользовательский инструмент → LLM для исправления (gpt 4o) → API для отправки правки.
Однако проблема в том, насколько мы готовы позволить LLM применять правку с нулевыми галлюцинациями?
Возможным решением может быть заставить LLM при вызове исправления возвращать два номера строк (где начинается код и где заканчивается), а затем использовать эту информацию для добавления обратных кавычек. Так риск разрушения будет значительно ниже.
Я подумаю об этом подробнее, но мне кажется, что здесь вполне реализуемое решение.