GenAI Guardrails: Cine face asta cel mai bine ca serviciu?
Rețeaua criptată are trei moduri: { Strict | Permisiv | Deschideți }.
"Strict" previne conținutul matur/explicit în mod implicit și, în schimb, are acces la modele de top, proprietare.
"Permisiv" (implicit) are o strategie dublă de a încerca mai întâi să lucreze cu mai mulți furnizori (în caz de fals pozitive) și să revină la rescrierea cererii de siguranță.
"Deschis" nu judecă conținutul și găsește împlinire de la o rețea descentralizată de furnizori, care poate fi mai deschisă conținutului pentru adulți.
---
Acestea fiind spuse, pentru a preveni conținutul *ilegal*, avem încă bariere puternice, cum ar fi clasificatorii constituționali.
The Catch-22? Bazându-se pe modele externe pentru a judeca conținutul poate reprezenta, în sine, o încălcare a Termenilor și condițiilor furnizorului. (Ca și cum ar fi direcționat automat către modelele secrete ale OpenAI).
Cine face asta cel mai bine? Anthropic a arătat niște capacități foarte puternice în recentul lor hackathon de securitate. Cine altcineva?
Experiment de gândire: cum ați descentraliza balustrada propriu-zisă, menținând în același timp confidențialitatea utilizatorilor?
O idee ar fi să-l trateze ca pe un serviciu de "amestecare": cum ar fi Tornado Cash pentru conținut în loc de monede.
Ai avea mai multe noduri care primesc loturi de conținut de revizuit și folosesc dovezi ZK pentru a atesta evaluarea conținutului legal/ilegal + pentru fiecare dintre ele, dar nu cunosc sursele.
Apoi, portalul ar putea respinge munca și ar putea oferi dovezi ale "de ce" fără a fi acuzat de părtinire/cenzură inutilă.
Apoi ar face parte dintr-o rețea stimulată la nivelul gateway-ului.
Exemplu: să presupunem că am creat un wrapper pentru acreditările AWS cu acces la Bedrock Guardrails. Apoi, pentru a contribui la mixare, am plătit o mică primă în ETH pe Base, gestionată, poate, de un serviciu de coordonare prototip construit în @eigenlayer EigenCloud.
Apoi oricine se putea alătura și distribui încărcarea și amestecarea conținutului.
Trebuie să măsor latența pentru asta.
2,27 K
7
Conținutul de pe această pagină este furnizat de terți. Dacă nu se menționează altfel, OKX nu este autorul articolului citat și nu revendică niciun drept intelectual pentru materiale. Conținutul este furnizat doar pentru informare și nu reprezintă opinia OKX. Nu este furnizat pentru a fi o susținere de nicio natură și nu trebuie să fie considerat un sfat de investiție sau o solicitare de a cumpăra sau vinde active digitale. În măsura în care AI-ul de generare este utilizat pentru a furniza rezumate sau alte informații, astfel de conținut generat de AI poate să fie inexact sau neconsecvent. Citiți articolul asociat pentru mai multe detalii și informații. OKX nu răspunde pentru conținutul găzduit pe pagini terțe. Deținerile de active digitale, inclusiv criptomonedele stabile și NFT-urile, prezintă un grad ridicat de risc și pot fluctua semnificativ. Trebuie să analizați cu atenție dacă tranzacționarea sau deținerea de active digitale este adecvată pentru dumneavoastră prin prisma situației dumneavoastră financiare.