Edhe pse trajnimi i modeleve gjuhësore të ChatGPT kushton dhjetëra miliona dollarë, kostot operative janë shumë më të larta. Kompanitë të cilat përdorin modelin gjuhësor të OpenAI ka paguar çmime të mëdha.
Përdorimi i ChatGPT për të shkruar letra, gjeneruar një plan apo pasuruar profilet e tyre në median sociale mund ti kushtojë OpenAI deri në 700 mijë dollarë në ditë për shkak të infrastrukturës ku mbështetet inteligjenca artificiale tha hulumtuesi i SemiAnalysis Dylan Patel.
Kjo sepse ChatGPT kërkon sasi të mëdha fuqie kompjuterike për të përllogaritur përgjigjet sipas pyetjeve të përdoruesve.
“Shumica e kësaj kostoje shkon për serverët e kushtueshëm që nevojiten,” tha Patel.
Ai vijoi se kostoja tashmë mund të jetë rritur më tutje sepse operimi i GPT-4, modelit të ri gjuhësor të kompanisë, do të kërkonte më shumë resurse krahasuar me GPT-3.
Edhe pse trajnimi i modeleve gjuhësore të ChatGPT kushton dhjetëra miliona dollarë, kostot operative janë shumë më të larta. Kompanitë të cilat përdorin modelin gjuhësor të OpenAI ka paguar çmime të mëdha.
CEO i Latitude, Nick Walton, një startup pas një loje AI që gjeneron artikuj, thotë se operimi i modelit gjuhësore të OpenAI kushton 200 mijë dollarë në muaj në kosto në Amazon Web Services.
Për këtë arsye ai vendosi të përdorë një model tjetër gjuhësor nga AI21 Labs që sipas tij ka shkurtuar kostot në 100 mijë dollarë në muaj.
Mendohet se nisur nga kostoja e lartë e operimit të modeleve AI, Microsoft ka vendosur të ndërtojë një çip AI që e quan Athena raportuar nga The Information.
Projekti i cili filloi në 2019-ën erdhi disa vite pasi Microsoft investoi 1 miliardë dollarë në OpenAI që do të thotë se ky i fundit duhet të operojë modelet e tij në serverët Azure Cloud.
