महंगा सर्वर, शक्तिशाली कंप्यूटिंग की जरूरत
ChatGPT ओपनएआई को संचालित करने के लिए प्रति दिन $700,000 से अधिक खर्च हो सकता है. Microsoft इसे सस्ता बनाने की कोशिश कर रहा है. कारण है सर्वर का महंगा होना.एक विश्लेषक के अनुसार जटिल से जटिल प्रश्नों का उत्तर देने के लिए शक्तिशाली सर्वर पर भारी मात्रा में कंप्यूटिंग शक्ति की आवश्यकता होती है.
सेमीकंडक्टर रिसर्च फर्म सेमीएनालिसिस के मुख्य विश्लेषक डायलन पटेल ने टेक्नीकल विषयों के समाचार पत्र द इंफॉर्मेशन को बताया कि कवर लेटर लिखने, लेसन प्लान तैयार करने और अपनी डेटिंग प्रोफाइल को फिर से तैयार करने के लिए चैटजीपीटी का इस्तेमाल करने पर ओपनएआई की कीमत प्रति दिन 700,000 डॉलर तक हो सकती है, क्योंकि एआई महंगे टेक इंफ्रास्ट्रक्चर पर चलता है.
ऐसा इसलिए है क्योंकि ChatGPT को उपयोगकर्ता के संकेतों के आधार पर प्रतिक्रियाओं की गणना करने के लिए भारी मात्रा में कंप्यूटिंग शक्ति की आवश्यकता होती है. पटेल के अनुसार इस लागत का अधिकांश हिस्सा महंगे सर्वरों के आसपास आधारित है.
पटेल के अनुसार अब इसे संचालित करना और भी महंगा हो सकता है, क्योंकि उनका शुरुआती अनुमान OpenAI के GPT-3 मॉडल पर आधारित है. GPT-4 - कंपनी का नवीनतम मॉडल - चलाने के लिए और भी महंगा होगा.
सेमीएनालिसिस के एक अन्य विश्लेषक पटेल और अफ़ज़ल अहमद ने फ़ोर्ब्स को बताया कि चैटजीपीटी के बड़े भाषा मॉडल के प्रशिक्षण में लाखों डॉलर, परिचालन खर्च या अनुमानित लागत की संभावना है. जो किसी भी उचित पैमाने पर मॉडल को तैनात करते समय प्रशिक्षण लागत से कहीं अधिक है. वास्तव में, चैटजीपीटी अनुमान लगाने की लागत साप्ताहिक आधार पर प्रशिक्षण लागत से अधिक है.
उल्लेखनीय है कि OpenAI के भाषा मॉडल का उपयोग करने वाली कंपनियां वर्षों से भारी कीमत चुका रही हैं. लैटीट्यूड के सीईओ निक वाल्टन, एआई कालकोठरी गेम के पीछे एक स्टार्टअप, जो स्टोरीलाइन उत्पन्न करने के लिए संकेतों का उपयोग करता है, ने बताया कि मॉडल को चलाने के साथ-साथ अमेज़ॅन वेब सर्विसेज सर्वरों को भुगतान करने के लिए एआई को लाखों का जवाब देने के लिए कंपनी को प्रति माह $ 200,000 का खर्च आता है.
वाल्टन के अनुसार उच्च लागत इसलिए है क्योंकि उन्होंने AI21 लैब्स द्वारा समर्थित एक भाषा सॉफ्टवेयर प्रदाता पर स्विच करने का फैसला किया. जिसके बारे में उन्होंने बताया कि वे अपनी कंपनी की AI लागत को आधा करके $100,000 प्रति माह कर दिया.
वाल्टन ने सीएनबीसी को बताया कि हमने मजाक में कहा कि हमारे पास मानव कर्मचारी थे और हमारे पास एआई कर्मचारी थे, और हमने उनमें से प्रत्येक पर उतना ही खर्च किया. हमने एआई पर एक महीने में सैकड़ों हजारों डॉलर खर्च किए और हम एक बड़े स्टार्टअप नहीं हैं, इसलिए यह बहुत बड़ी लागत थी.
वैसे माइक्रोसाफ्ट जेनरेटिव एआई मॉडल चलाने की लागत को कम करने के प्रयास में है. वह एक एआई चिप विकसित कर रहा है, जिसे एथेना कहते हैं. उसके द्वारा यह परियोजना 2019 में शुरू की गई थी. Microsoft द्वारा OpenAI के साथ $ 1 बिलियन का सौदा करने के वर्षों बाद आई है, जिसके लिए OpenAI को अपने मॉडल को विशेष रूप से Microsoft के एज़्योर क्लाउड सर्वर पर चलाने की आवश्यकता थी.
सूचना के अनुसार, चिप के पीछे का विचार दो गुना था. इस मामले की जानकारी रखने वाले एक सूत्र ने द इंफॉर्मेशन को बताया कि माइक्रोसॉफ्ट के अधिकारियों ने महसूस किया कि वे अपने स्वयं के इन-हाउस चिप्स बनाने के प्रयासों में Google और अमेज़ॅन के पीछे पड़ रहे हैं. उसी समय Microsoft कथित तौर पर सस्ते विकल्पों की तलाश कर रहा था. इसके AI मॉडल एनवीडिया के चिप्स पर चलते थे, जिन्हें ग्राफिक्स प्रोसेसिंग यूनिट के रूप में जाना जाता था अब एक चिप बनाने का फैसला किया जो कम खर्चीला होगा.
रिपोर्ट के अनुसार, लगभग चार साल बाद 300 से अधिक Microsoft कर्मचारी अब कथित तौर पर चिप पर काम कर रहे हैं. चिप को अगले साल की शुरुआत में Microsoft और OpenAI द्वारा आंतरिक उपयोग के लिए जारी किया जा सकता है.