Как работи извикването на функции
Дефинициите на функции (JSON структури, описващи параметрите) се предоставят на LLM като част от заявката. Когато моделът определи, че трябва да бъде извикана функция, той генерира структурирани извиквания, които хост системата изпълнява, и връща резултатите обратно към модела за продължаване.
Приложения
Извикването на функции позволява агентски шаблони: модели, свързващи се с бази данни, извикващи външни API-та, търсещи информация в мрежата и изпълняващи действия на системи. Ключов елемент за агентски AI приложения.
Съображения за сигурност
Извикването на функции създава нов вектор на атака: инжектирането на заявки може да се опита да насочи модела към извикване на вредни функции. Прилагайте принципа на минимални привилегии и осигурявайте надзор на хора за чувствителни функции.