Как разработването на нови технологични решения като тези на база на AI увеличава риска за самите ИТ компании

22.1.2024 г.
Информационните технологии са навсякъде около нас и животът ни до голяма степен зависи от решенията и продуктите, които ИТ компаниите са разработили или създали. Не е по-различно и в света на бизнеса. Особено през последните няколко години се наблюдава значително развитие на цифровизацията независимо от икономическия сектор. Технологиите се развиват с бързи темпове, трансформират индустриите и променят значително традиционните бизнес процеси. Един от основните фактори, обуславящи бързото развитие на ИТ сектора, е, че повечето компании са осъзнали, че трябва да инвестират в ИТ решения с най-усъвършенстван софтуер, за да имат предимство пред своите конкуренти. Въз основа на нашия опит технологичните компании предоставят разработване на системи и продукти най-вече за следните сектори, които също могат да се считат за едни от най-революционизираните:
  • Финансов сектор - поддържащи системи за онлайн банкиране, разработване на основен финансов софтуер;
  • Енергиен сектор - решения за поддръжка на системи за контрол и мониторинг на процеси, софтуерни разработки, свързани с управлението на бизнеса;
  • Производствен сектор - разработване на решения както за бек-офис, така и за промишлени операции;
Също така се забелязва, че счетоводните, правните и управленските консултантски фирми все повече добавят софтуер като част от услугите, които предлагат на клиентите си.
С новoвъведенията компаниите се сблъскват с непознати предизвикателства и рискове в рамките на ежедневната си работа, на които трябва да се обърне внимание и да се търсят начини за управлението им.
Описаните процеси и промени оказват влияние върху компаниите, които внедряват новите технологии и постигат повишаване на ефективността, върху клиентите, които са крайните бенефициенти на услугите или приложенията, върху технологичните компании, които разработват тези решения, и освен това върху застрахователите, които осигуряват покритие на професионалната отговорност на технологичните компании.

Какво включва професионалната отговорност в областта на ИТ?
Общата цел на покритието е да обезщетява и защитава застрахованите технологични компании от искове на трети страни за пропуск или грешка при предоставянето на ИТ услуги. Обезщетението обикновено се основава на финансовата загуба, която клиентът е претърпял, или на разходите за правна защита на застрахования в случай на съдебен спор. Професионалното обезщетение осигурява широк спектър от покрития за ИТ компаниите, като например покритието им за грешки, заблуди, включително небрежност при предоставянето на ИТ услуги, неволно нарушаване на политиките за защита на личните данни, както и загуба на документи или данни.

Ако новите ИТ решения и нововъзникващите технологии се разглеждат от различен ъгъл, от една страна, те носят значителни резултати и огромна добавена стойност, а от друга - разкриват нови рискове и опасности, за които не сме се сещали преди. От страна на технологичните компании могат да се появят нови и непредвидени заплахи, които да причинят значителни щети на клиента. Например в рамките на проект за разработване на изкуствен интелект след внедряването му конкурент съди клиента за авторски права поради това, че новият продукт или уебсайт на клиента е доста подобен на техния. От гледна точка на застрахователя тези непредвидени заплахи могат да доведат до разширяване на експозицията и очаквани нови щети, като застрахователят трябва да проучи изчерпателно кога тези нови технологии се появяват на пазара.
В близко бъдеще следните три нововъзникващи технологии биха могли да окажат значително въздействие върху технологичните компании, света на бизнеса, а чрез тях и върху застрахователите и продуктите за професионално обезщетение в областта на ИТ.

1.       Изкуствен интелект (ИИ)
ИИ може да донесе голяма добавена стойност за компаниите, които се стремят да се възползват от тази нова технология, но това не е лишено от допълнителни рискове. Да си представим, че ИТ компания внедри решение за ИИ за маркетингова агенция. Системата, базирана на ИИ, използва защитено с авторски права съдържание за маркетингови материали, но неволно нарушава правата на интелектуална собственост на други лица, което може да завърши със съдебен процес. (В момента се водят няколко съдебни дела срещу системи, базирани на OpenAI, които са нарушили авторски права). Или пък внедрената система, базирана на ИИ, участва в споразумението за ниво на обслужване, в условията за ползване, като в този случай технологията на ИИ може да носи отговорност за гаранциите за производителност или за използването на данните на клиентите.
Най-интересният въпрос е следният: кой носи отговорност, ако системата на базата на ИИ работи неправилно и предизвиква горепосочените проблеми? ИТ компанията, която я е разработила, или компанията, която я използва?
2.       Интернет на нещата (IoT)
Интернет на нещата е мрежа от физически устройства, които се свързват и обменят данни с други устройства от този тип и с облака, като тези устройства работят с технологии, свързани с ИТ, като софтуер, сензори, които осигуряват комуникацията и обмена на данни. Крайните потребители са предимно такива, които например купуват устройства за интелигентен дом и всички тези устройства могат да бъдат управлявани от едно мобилно приложение. Технологичните компании, които разработват такъв софтуер или приложения, поддържащи IoT, могат да бъдат въвлечени косвено в изтегляне на продукти или в съдебно дело за отговорност. Ако, например, устройството се обърка, предизвика прекъсване на веригата и в резултат на това къщата на клиента изгори. Производителят на устройството може да иска да докаже, че късото съединение е възникнало поради неправилна работа на софтуера, а не на дефектното устройство, така че разработчикът на софтуера е отговорен за цялата щета.
Интернет на нещата има по-индустриална версия, наречена индустриален интернет на нещата (IIoT), която представлява съвкупност от сензори, софтуер и самостоятелни устройства, свързани с индустриални приложения. Със силен акцент върху комуникацията между машините, машинното обучение и големите обеми от данни, IIoT дава възможност на промишлеността да събира данни, да ги анализира чрез повишаване на ефективността, да оптимизира производството, като намалява производствените разходи. Един от огромните рискове за технологичните компании при разработване и внедряване на такова решение, е, че ако в системата възникне малка грешка, може да причини преки щети в производството, оперативни смущения или чрез уязвимостите хакерите могат да влязат в системата на индустриалната компания.

3.       Блокчейн
Блокчейн технологията е метод за записване на данни, информация, който прави невъзможно или доста трудно за системата да ги манипулира или променя. Блокчейн е споделена база данни, която се съхранява на много различни компютри (възли). Тя се състои от няколко блока, които по същество представляват цифрова страница, която може да бъде качена със запис на трансакция (данни), ако трансакцията в даден блок бъде потвърдена чрез възлите в мрежата, страницата се изпълнява, затваря се и тази страница се добавя към съществуващата, непроменяема, хронологична верига от предишни блокове.
Най-често блокчейнът се използва за съхраняване на трансакции за криптовалути, но има и други по-сложни начини на използване в различни индустрии. В медийния сектор компаниите използват блокчейн технологията за управление на данните за авторските права и удостоверяването им. В сектора на търговията на дребно тя може да се използва за записване на произхода и всички производствени данни на дадена стока, което може да осигури на купувача достоверна информация за продукта, който е купил.
В бъдеще внедряването и разработването на интелигентни договори може да бъде широко разпространено решение. Тези видове договори позволяват лесно създаване на правнообвързващ договор без участието на трети лица (адвокат). В интелигентните договори са вградени програми, които се изпълняват автоматично, когато са налични предварително зададени условия. Например в сектора на недвижимите имоти, ако се преведе плащане, автоматично ще започне процес на прехвърляне на собствеността.
Заплахи за технологичните компании: поради естеството на технологията е трудно да се поправи разработеното приложение или система, така че при допусната грешка е проблемно коригирането ѝ. Тази технология може да доведе до следващо ниво на автоматизация, което може да бъде възприето от повечето сектори, като например финансовия или енергийния. На свой ред тази нова автоматизация на процесите може да доведе до увеличаване броя на щетите за трети страни поради липсата на човешки процеси на одобрение и естеството на фазата на обучение на тези технологии.

Как в Колонад се справяме с динамичните промени в технологичния сектор обяснява Бенце Селеш, ръководител на екипа по застраховане в унгарския клон на Colonnade Insurance S.A.: "В Колонад вярваме, че основното конкурентно предимство на нашата компания се крие във факта, че се стремим да предоставим на нашите клиенти индивидуално покритие на професионалната отговорност за неконвенционални рискове като тези, описани по-горе. Това изисква активно сътрудничество между застрахователите в различните държави и децентрализирана оперативна структура, за да се гарантира, че застрахователите намират подкрепящ начин, за да могат да вземат цялостни решения за рисковете при тяхното възникване и по този начин предлагат широк спектър от покрития на технологичната компания."