Провајдери

Zammad пружа AI функције вашим оператерима у сврху подршке! За коришћење AI функција у Zammad-у, морате прво подесити и укључити најмање једног AI провајдера. AI провајдер обрађује ваше AI захтеве и неопходан је део сваке AI функције. Провајдере можете додати у Zammad администраторском панелу под AI > Провајдери и не заборавите да укључите прекидач. Искључивање прекидача зауставља све AI позиве, чак и када је подешен један или више провајдера.

Приступ овој страници захтева дозволу admin.ai_provider.

Снимак екрана који приказује списак подешених AI провајдера

Белешка

Zammad-ове AI функције су потпуно необавезне. Уколико уопште не желите да видите AI одељак, прочитајте како да га сакријете у системској документацији.

Управљање провајдерима

Страница за подешавање AI провајдера приказује табелу свих подешених провајдера. Сваки ред садржи статусну тачку, назив и врсту провајдера, као и значке за посебне улоге које провајдер тренутно има. Мени ︙ у колони Радња вам омогућава да измените ове улоге или уклоните провајдера. Погледајте Подразумеван провајдер и Могућности за детаље. Можете додати једног провајдера за све AI функције које желите да укључите, или додати више њих како бисте различитим функцијама доделили различите провајдере.

Додавање или уређивање провајдера

Кликните на Нови провајдер да бисте додали новог провајдера или кликните на ред да бисте изменили постојећег. У оба случаја отвара се дијалог са два корака. На првом кораку можете одабрати врсту провајдера, унети његов назив и одговарајуће информације. Прелазак на други корак кликом на дугме Следеће проверава ваш унос, повезује се са провајдером и добавља списак доступних модела. У случају проблема, бићете обавештени већ на овом кораку. Други корак вам омогућава да одаберете или унесете модел и одредите додатна подешавања. Приказана поља зависе од провајдера кога изаберете, па промена врсте истог тренутка мења изглед дијалога.

Снимак екрана који приказује дијалог за додавање или уређивање провајдера
Врста

Изаберите AI провајдера. Доступне опције:

  • Zammad AI

  • OpenAI

  • Ollama

  • Anthropic

  • Azure AI

  • Mistral AI

  • Прилагођен (OpenAI компатибилан)

У зависности од врсте приказују се различита поља. Неки провајдери захтевају и подешавање на својој страни пре него што се повежете (на пример Azure AI). За те кораке погледајте документацију самог провајдера.

Белешка

Провајдер који вам треба није на списку? Временом ћемо додавати још провајдера. Уколико вам је потребан одређени провајдер или желите да га спонзоришете, обратите се нашем одељењу продаје.

Назив

Читљив назив провајдера. То је оно што видите на списку и на другим местима у Zammad-у (на пример приликом подешавања провајдера за одређену функцију). Назив мора бити јединствен у систему.

API кључ

API кључ који вам је издао ваш провајдер. Немојте га побркати са токенима које велики језички модел обрађује приликом извршавања захтева.

Режим

Основни модел за генерацију текста. За провајдере који пружају списак модела, биће приказано поље избора. Подразумевана опција приказује препоручени модел; одаберите другу опцију уколико желите. Уколико провајдер не подржава списак модела, ручно унесите назив модела.

Azure AI и Zammad AI не приказују ово поље. Azure AI одређује модел преко своје радне путање, док Zammad AI сам одређује модел.

Савет

Желите другачији модел за сваку функцију? Додајте истог провајдера двапут са различитим моделима за сваки унос, а затим доделите провајдера одговарајућој функцији путем подешавања провајдера по функцији.

Модел векторизације

Модел који се користи за векторизацију текста за потребе семантичке претраге. Поље избора нуди списак модела које провајдер подржава. Подразумевана опције приказује препоруку; одаберите другу опцију уколико желите. Уколико провајдер не нуди одговарајући модел, унесите ручно његов назив. Обавезно је уколико планирате да доделите својство Семантичка претрага овом провајдееру (погледајте Могућности). Не подржава сваки провајдер семантичку претрагу; поље се приказује само код оних који је подржавају.

Када одаберете или унесете модел векторизације, Zammad ће покушати да одреди вредности за два поља испод њега. Уколико Zammad није у могућности да одреди ове вредности, морате их сами унети. Мењајте предложене вредности само ако знате шта радите.

Димензије вектора

Дужина вектора које производи модел векторизације.

Величина контекста

Број улазних токена које модел векторизације прихвата одједном.

Снимак екрана који приказује дијалог AI провајдера са ручно унешеним подешавањима векторизације

Белешка

Промена модела или димензија векторизације ће покренути потпуну обнову индекса базе знања. Ово ће поново векторизовати сваки чланак базе знања, што одузима време и троши AI упите пропорционално величини ваше базе знања. Реиндексирање се извршава у позадини и Zammad ће вас обавестити када започн. Пребацивање својства семантичке претраге на други провајдер који користи исти модел и димензије векторизације неће покренути обнову.

Режим

Модел који се користи за издвајање текста са слика. Поље избора приказује списак модела које провајдер подржава. Подразумевана опција значи да се користи вредност из поља Модел. Zammad AI сам одабире свој модел и не нуди ово подешавање. Не подржава сваки провајдер препознавање текста на сликама; поље се приказује само код оних који га подржавају.

URL

URL или IP адреса провајдера. Обавезно за Ollama и OpenAI компатибилне провајдере.

URL адреса (completions)

Само за Azure AI. Путања на којој је доступан модел за генерисање текста.

URL адреса (OCR)

Само за Azure AI. Путања на којој је доступан OCR модел. Оставите празно да би се користила вредност из поља URL адреса (completions).

Након попуњавања поља кликните на Пошаљи. Zammad проверава подешавања пре снимања. Уколико провера успе, статусна тачка у реду је најпре наранџаста, а постаје зелена након првог успешног захтева; погледајте одељак Статус испод за значење боја.

Статус

Обојена тачка на почетку сваког реда показује да ли је провајдер успешно коришћен или има проблема:

Зелена

Провајдер је коришћен и последњи захтев је успео. Облачић приказује временску ознаку последњег освежавања статуса.

Наранџаста

Провајдер је подешен, али још увек није коришћен. Тачка постаје зелена након првог успешног захтева.

Црвена

Последњи захтев ка овом провајдеру није успео. Пређите мишем преко тачке да бисте видели поруку о грешци од провајдера. Облачић увек приказује најскорију грешку, па временска ознака припада последњем неуспелом захтеву.

Подразумеван провајдер

Подразумеван провајдер опслужује сваку AI функцију којој није додељен посебан провајдер. Подешавате га из менија ︙ у колони Радња. Провајдер може носити и значке могућности, тако да један добро опремљен провајдер може покрити све.

Снимак екрана који приказује списак провајдера, где је један провајдер означен као подразумеван за све три намене

Када провајдера означите као подразумеваног, Zammad уклања ту ознаку са провајдера који ју је до тада имао, тако да нови подразумевани провајдер одмах преузима улогу. Подразумеван провајдер увек постоји: када обришете провајдера који носи ту ознаку, Zammad је додељује најстаријем преосталом провајдеру.

Могућности

Семантичка претрага и препознавање текста на сликама (OCR) су могућности. Додељујете их из менија ︙ у колони Радња; значке означавају који провајдер тренутно покрива коју могућност.

Семантичка претрага

Провајдер који се користи за претварање текста у нумерички облик (векторске репрезентације) како би база знања могла да проналази чланке по значењу, а не само по кључним речима.

Уколико ниједан провајдер не покрива семантичку претрагу, а нека функција је захтева, Zammad приказује упозорење на страници те функције. Доделите семантичку претрагу провајдеру који је подржава и који има подешен модел векторизације да бисте уклонили упозорење. Обратите пажњу да пребацивање овог својство може покренути потпуну обнову индекса, консултујте Модел векторизације изнад.

Препознавање текста на сликама

Провајдер који се користи за издвајање текста са слика (OCR).

Ова могућност је необавезна. Ради уштеде трошкова везаних за AI, можете је у потпуности уклонити са свих провајдера; функције тада једноставно прескачу OCR корак.

Када могућност доделите провајдеру, Zammad уклања ту доделу са провајдера који ју је до тада имао, тако да нова додела одмах ступа на снагу. За разлику од подразумеваног провајдера, могућности се не преносе: када обришете провајдера који покрива неку могућност, та могућност једноставно остаје недодељена.

Радње

Мени ︙ у колони Радња нуди следеће радње:

Подеси као подразумевано

Означава провајдера као подразумеваног провајдера за AI функције.

Користи за семантичку претрагу / Не користи за семантичку претрагу

Додељује провајдеру могућност семантичке претраге или уклања ту доделу. Доступно само за провајдере који је подржавају.

Користи за препознавање текста на сликама / Не користи за препознавање текста на сликама

Додељује провајдеру могућност препознавања текста на сликама или уклања ту доделу.

Обриши

Уклања провајдера. Није доступно за Zammad AI провајдера на SaaS платформи.

Подешавање провајдера по AI функцији

Подразумевано, све AI функције користе провајдера означеног као подразумеваног. За прецизнију контролу можете изабрати посебног провајдера за поједине функције.

Свака страница са подешавањима AI функције приказује дугме Провајдер у заглављу странице. Оно отвара дијалог са падајућом листом свих подешених провајдера. Изаберите провајдера коме ће се слати захтеви за генерисање текста те функције, или изаберите ставку Подразумевано (…) да бисте уклонили посебно подешавање и вратили се на подразумеваног провајдера.

Снимак екрана који приказује дијалог за избор провајдера по функцији са изабраним провајдером

Овај избор утиче само на генерисање текста. Семантичка претрага увек иде провајдеру који покрива могућност семантичке претраге, а препознавање текста на сликама увек иде провајдеру који покрива могућност препознавања текста на сликама. Дугме Провајдер је видљиво само администраторима који имају дозволу admin.ai_provider, јер усмеравање захтева дира провајдере које подешавате на овој страници.

Додатне информације о провајдерима

Уколико желите да сазнате више о Zammad AI или Ollama провајдерима, читајте даље. У супротном, идите на Мишљења и дневници или изаберите неку од страница са AI функцијама из менија са леве стране.

Zammad AI

Коришћење Zammad AI као провајдера је најлакши начин да започнете рад са AI функцијама у Zammad-у. Доноси неколико кључних предности:

  • Не морате да постављате нити подешавате сопствени AI систем.

  • Хостован је у Европској унији и усклађен је са GDPR прописима.

  • Никакво подешавање у Zammad-у за SaaS клијенте, односно само API кључ за клијенте који сами хостују.

  • Захтеви са осетљивим информацијама се не користе за тренирање модела.

  • Једно место на које се обраћате за подршку када нешто не ради како треба.

Клијент

Коришћење Zammad AI захтева „V2” план. Проверите ваша подешавања претплате и размотрите прелазак на други план. Када је „V2” план активан, можете докупити AI позиве за AI обраду. Zammad AI провајдер се додаје аутоматски и можете га укључити по жељи. Проверите преостали број AI позива с времена на време, или укључите обавештење да будете упозорени када их остане мало.

На SaaS платформи Zammad AI провајдера обезбеђује сама платформа, па га не можете обрисати нити му променити врсту.

Клијенти који сами хостују

Обратите се нашем одељењу продаје да бисте добили Zammad AI API кључ и докупили AI позиве. По добијању API кључа, додајте новог провајдера врсте Zammad AI и сачувајте кључ.

Ollama

Ollama вам омогућава да покренете сопствени AI сервер на систему који контролишете, тако да се ваши подаци не преносе трећим лицима. Овај приступ има смисла само ако поседујете моћан GPU у вашем систему!

Уколико још увек немате покренут Ollama, њихова документација је добра почетна тачка. Доступни модели су наведени у библиотеци Ollama модела, а корисне информације и додатни линкови налазе се у Ollama GitHub репозиторијуму.