tehisaru kulud

Joel Edenberg

Paar päeva tagasi avalikustati Anthropicu uusim "Fable 5" mudel, mis kuulub Mythos klassi. Uus Mythos klass peaks olema siis üks tase kõrgem varasemas Opus klassist. Koos Fable 5 mudeliga tuli ka Mythos 5 mudel, aga viimane neist ei ole avalikult kasutatav ning kättesaadav. Mythos 5 on suunatud küberturbe ekspertidele, ning Anthropic kontrollib rangelt, et kellele juurdepääs võimaldatakse. Fable 5 ja Mythos 5 erinevad selle poolest, et Fable 5 on lisatud sisemised piirangud, et kärpida selle küberturbe võimekusi. See tähendab, et Fable 5 ei ole suuteline näiteks avastama või ära kasutama turvanõrkusi samas ulatuses nagu Mythos 5. Mythos 5 piirangud suuresti puuduvad.

Võimekus +20%, hind +100%

Kui vaadata Fable 5 mudeli testitulemusi, siis need on tõesti muljetavaldavad. Natukene kurvem pilt on aga uue mudeli hinnastuses. Nimelt tõusis hind jälle 2x võrreldes varasemalt parima Opus mudeliga. Tunnetuslikult tõusis aga hind veelgi rohkem. Võimalik, et see on seotud ka keelemudeli tekstiosakeste (token) kasutusmustrite muudatustega - uus mudel kasutab neid ehk lihtsalt rohkem. Aga peale paari päeva kasutust tundub, et isegi väiksemapoolne päring maksab 2-5€. Oleme hakanud jõudma ajastusse, kus tehisaru hinnastusele tuleb hakata pöörama tähelepanu. Fable 5 päevane kasutus võib väga kergelt küündida sadadesse, kui mitte tuhandetesse eurodesse. Selliste summade juures võib kogu kuutasu kiirelt ületada arendaja palgafondi.

Rahalugemine

Ilmselt on esimene samm hakata edaspidi mõtlema, et millist mudelit milliste päringute jaoks kasutada. Alati parim mudel, seadistatud kõige suuremale pingutus astmele, ei ole mõistlik. Vähem keerukad ülesanded tuleb ka edaspidi Opus klassi mudelitele jätta. Samuti muutub kulude jälgimine ilmselt igapäevasemaks nähtuseks.

Kogemata kasumis

Anthropic on ilmselt üritanud hinnaga survestada ettevõtteid oma kasutust veidikene piirama. See annaks neile leevendust suurtele arvutusressursi puudujääkidele ja võimaldaks rohkem panustada uute mudelite arendamisele. Hetkel tundub aga et kasutus jätkab eksponentsiaalset kasvu, ning suured hinnatõusud on Anthropicu kogemata ja osaliselt ka ootamatult, muutnud kasumit teenivaks ettevõtteks. Varasemalt prognoositi, et tehisarude ettevõtetel läheb vähemalt aasta, kui mitte rohkem, et kasumlikkus saavutada.