Umelá inteligencia dokáže pracovať s obrovským množstvom informácií, no jej dlhodobá pamäť má stále svoje limity. Český startup BioCortex AI teraz vyvíja technológiu, ktorá má umožniť uchovávanie kontextu naprieč jednotlivými konverzáciami a dokonca medzi rôznymi AI modelmi. Používateľ by tak podľa tvorcov nemusel pri zmene systému začínať prakticky odznova.
Na projekt upozornil český technologický portál Lupa.cz. Za riešením stojí jablonecký startup BioCortex AI, spoločný projekt výskumného centra OpenTechLab a spoločnosti CreaLogic.
Technológia dostala názov Neuromorphic Cognitive Memory (NCM), teda neuromorfná kognitívna pamäť. Ide o samostatnú pamäťovú vrstvu inšpirovanú biologickými princípmi, ktorá má uchovávať kontext nezávisle od konkrétneho veľkého jazykového modelu (LLM).
AI si nemusí pamätať všetko vo svojom modeli
Súčasné AI systémy majú obmedzené kontextové okno a pri práci s externými informáciami často využívajú systémy typu RAG – Retrieval-Augmented Generation. Tie umožňujú modelu vyhľadať relevantné informácie v externých zdrojoch a následne ich použiť pri tvorbe odpovede.
BioCortex AI sa pokúša k problému dlhodobej pamäte pristúpiť inak. NCM má byť oddelená od samotného výpočtového jadra jazykového modelu. Informácie pritom podľa autorov neuchováva iba ako presné textové reťazce, ale pracuje s logickými a sémantickými asociáciami.
Praktický význam by mohol byť zaujímavý napríklad pri dlhodobom používaní AI v práci. Ak používateľ opakovane rieši rovnaký projekt, programátorskú úlohu alebo pracovný postup, systém by mohol vyhľadať súvisiace skúsenosti z minulosti vrátane predchádzajúcich problémov a spôsobov ich riešenia.
Pamäť by mohla zostať aj po zmene AI
Jednou z najzaujímavejších vlastností konceptu je nezávislosť pamäte od konkrétneho jazykového modelu. Teoreticky by tak používateľ mohol v budúcnosti zmeniť AI model alebo jeho poskytovateľa a svoju dlhodobo vytvorenú pamäť si ponechať. BioCortex uvádza ako príklad prechod medzi modelmi OpenAI a otvorenými modelmi spoločnosti Meta.
To by znamenalo podstatnú zmenu oproti situácii, keď sú používateľské dáta, história a získaný kontext pevnejšie previazané s konkrétnou službou. OpenTechLab svoju technológiu opisuje ako „model-agnostickú persistentnú pamäťovú vrstvu pre LLM“ s lokálnym behom, dlhodobou kontinuitou a prenositeľnosťou medzi modelmi.
Inšpiráciu hľadali v biologickej pamäti
Architektúra BioCortex AI pozostáva podľa jej tvorcov z viacerých neobvyklých mechanizmov. Jedným z nich je perzistentná 3D pamäť, v ktorej majú informácie vytvárať akýsi latentný terén. Systém rozlišuje krátkodobú a dlhodobú pamäť a obsahuje mechanizmus periodickej konsolidácie, ktorý autori prirovnávajú k spánku.
Ďalšou súčasťou je takzvané digitálne zrkadlo. Model má analyzovať vlastný vytvorený výstup z pohľadu externého pozorovateľa a výsledok využívať na ďalšiu kalibráciu správania. Treťou časťou je PlantNet, ktorý využíva analógie biologických regulačných mechanizmov na ovplyvňovanie práce systému.
Sľubná technológia, jej možnosti však ešte treba overovať
Pri hodnotení projektu je dôležité rozlišovať medzi existenciou technológie a tvrdeniami o jej výkonnosti. BioCortex AI svoje riešenie verejne prezentuje a OpenTechLab ponúka experimentálnu verziu NCM Hippocampus.
Viaceré konkrétne tvrdenia o vlastnostiach systému však zatiaľ pochádzajú predovšetkým od samotných tvorcov. Tí napríklad uvádzajú lokálne uloženie dát, približne konštantnú veľkosť pamäťovej stopy či zachovanie výkonu pri dlhodobom používaní. Tieto parametre preto treba vnímať ako tvrdenia vývojárov, nie ako výsledky nezávislého rozsiahleho benchmarku.
Projekt je navyše stále vo vývoji. NCM je dostupná ako experimentálna technológia, pričom BioCortex pracuje aj na integráciách pre ďalšie aplikácie a AI agentov. Startup zároveň podľa Lupa.cz otvára pre-seed investičné kolo a chce financovať ochranu duševného vlastníctva, medzinárodné patentové konanie a vstup na zahraničné trhy.
Ak sa však princíp prenositeľnej dlhodobej pamäte v praxi osvedčí, môže riešiť jeden z praktických problémov dnešných AI asistentov – ako zachovať nadobudnutý kontext a skúsenosti bez toho, aby zostali navždy viazané na jediný model alebo jednu službu.
