অন্তর্নির্মিত AI (original) (raw)

প্রকাশিত: ১৪ মে, ২০২৪, সর্বশেষ আপডেট: ২০ মে, ২০২৪

আমরা ওয়েব প্ল্যাটফর্ম API এবং ব্রাউজার বৈশিষ্ট্যগুলি তৈরি করছি যা ব্রাউজারে তৈরি AI মডেল, বিশেষজ্ঞ মডেল এবং বৃহৎ ভাষা মডেল (LLM) এর সাথে কাজ করার জন্য ডিজাইন করা হয়েছে। অন্তর্নির্মিত AI এর সাহায্যে, আপনার ওয়েবসাইট বা ওয়েব অ্যাপ্লিকেশন AI-চালিত কাজগুলি সম্পাদন করতে পারে, মডেল স্থাপন, পরিচালনা বা স্ব-হোস্ট করার প্রয়োজন ছাড়াই।

বিল্ট-ইন AI এর সুবিধা, আমাদের বাস্তবায়ন পরিকল্পনা এবং আপনি কীভাবে এই সরঞ্জামগুলি বাস্তবায়ন শুরু করতে পারেন তা আবিষ্কার করুন।

আপনি যদি ওয়েবে AI-তে নতুন হন, তাহলে আমাদের ওয়েব AI শব্দকোষ এবং ধারণাগুলি পড়ুন।

ওয়েব ডেভেলপারদের জন্য বিল্ট-ইন এআই-এর সুবিধা

অন্তর্নির্মিত AI সহ, আপনার ব্রাউজার ভিত্তি এবং বিশেষজ্ঞ মডেল সরবরাহ এবং পরিচালনা করে।

বিল্ট-ইন AI এর মাধ্যমে, আপনার ওয়েবসাইট ব্রাউজার API গুলির সাথে স্থানীয় প্রসেসরের (CPU, GPU, অথবা NPU) সাথে সংযোগ স্থাপন করে। তারপর এটি একটি স্থানীয় মডেলের সাথে যোগাযোগ করে, যা একটি প্রতিক্রিয়া পাঠায়। API প্রতিক্রিয়াটি ফেরত দেয়।

অন্তর্নির্মিত AI নিম্নলিখিত সুবিধাগুলি প্রদান করে:

• স্থাপনার সহজতা : ব্রাউজারটি মডেলগুলি বিতরণ করে, ডিভাইসের ক্ষমতার হিসাব রাখে এবং আপডেটগুলি পরিচালনা করে। এর অর্থ হল আপনি কোনও নেটওয়ার্কের মাধ্যমে বড় মডেলগুলি ডাউনলোড বা আপডেট করার জন্য দায়ী নন। আপনাকে স্টোরেজ উচ্ছেদ, রানটাইম মেমোরি বাজেট, পরিবেশন খরচ এবং অন্যান্য চ্যালেঞ্জগুলির জন্য সমাধান করতে হবে না।
• হার্ডওয়্যার অ্যাক্সিলারেশন অ্যাক্সেস : ব্রাউজারের AI রানটাইম উপলব্ধ হার্ডওয়্যারের সর্বাধিক ব্যবহার করার জন্য অপ্টিমাইজ করা হয়েছে, তা সে GPU, NPU, অথবা CPU-তে ফিরে আসা যাই হোক না কেন। ফলস্বরূপ, আপনার অ্যাপ প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পেতে পারে।

ক্লায়েন্ট-সাইড চালানোর সুবিধা

বিল্ট-ইন AI দিয়ে, আপনি AI ক্লায়েন্ট-সাইড সম্পাদন করতে পারেন, যার অর্থ আপনি এই সুবিধাগুলি পাবেন:

• সংবেদনশীল তথ্যের স্থানীয় প্রক্রিয়াকরণ : ক্লায়েন্ট-সাইড এআই আপনার গোপনীয়তার গল্প উন্নত করতে পারে। উদাহরণস্বরূপ, যদি আপনি সংবেদনশীল তথ্য নিয়ে কাজ করেন, তাহলে আপনি এন্ড-টু-এন্ড এনক্রিপশন সহ ব্যবহারকারীদের এআই বৈশিষ্ট্যগুলি অফার করতে পারেন।
• দ্রুত ব্যবহারকারীর অভিজ্ঞতা : কিছু ক্ষেত্রে, সার্ভারে ঘুরে দেখার অর্থ হল আপনি প্রায় তাৎক্ষণিক ফলাফল দিতে পারবেন। ক্লায়েন্ট-সাইড এআই একটি কার্যকর বৈশিষ্ট্য এবং একটি নিম্ন-অনুকূল ব্যবহারকারীর অভিজ্ঞতার মধ্যে পার্থক্য করতে পারে।
• AI-তে আরও বেশি অ্যাক্সেস : আপনার ব্যবহারকারীর ডিভাইসগুলি বৈশিষ্ট্যগুলিতে আরও অ্যাক্সেসের বিনিময়ে কিছু প্রক্রিয়াকরণের বোঝা বহন করতে পারে। উদাহরণস্বরূপ, যদি আপনি প্রিমিয়াম AI বৈশিষ্ট্যগুলি অফার করেন, তাহলে আপনি ক্লায়েন্ট-সাইড AI-এর মাধ্যমে এই বৈশিষ্ট্যগুলি পূর্বরূপ দেখতে পারেন যাতে সম্ভাব্য গ্রাহকরা আপনার পণ্যের সুবিধাগুলি দেখতে পারেন, অতিরিক্ত খরচ ছাড়াই। এই হাইব্রিড পদ্ধতিটি আপনাকে বিশেষ করে ঘন ঘন ব্যবহৃত ব্যবহারকারী প্রবাহের ক্ষেত্রে অনুমান খরচ পরিচালনা করতেও সাহায্য করতে পারে।
• অফলাইনে AI ব্যবহার : ইন্টারনেট সংযোগ না থাকলেও আপনার ব্যবহারকারীরা AI বৈশিষ্ট্যগুলি অ্যাক্সেস করতে পারবেন। এর অর্থ হল আপনার সাইট এবং ওয়েব অ্যাপগুলি অফলাইনে বা পরিবর্তনশীল সংযোগের সাথে প্রত্যাশা অনুযায়ী কাজ করতে পারবে।

হাইব্রিড এআই: ক্লায়েন্ট-সাইড এবং সার্ভার-সাইড

ক্লায়েন্ট-সাইড এআই বিভিন্ন ধরণের ব্যবহারের ক্ষেত্রে কাজ করতে পারে, তবে কিছু ব্যবহারের ক্ষেত্রে সার্ভার-সাইড সাপোর্টের প্রয়োজন হয়। সার্ভার-সাইড এআই বৃহৎ মডেলের জন্য একটি দুর্দান্ত বিকল্প এবং এটি বিস্তৃত পরিসরের প্ল্যাটফর্ম এবং ডিভাইসগুলিকে সমর্থন করতে পারে।

আপনার আবেদনের প্রয়োজন হলে আপনি একটি হাইব্রিড পদ্ধতি বিবেচনা করতে পারেন:

• জটিলতা: ডিভাইসে থাকা AI-এর মাধ্যমে নির্দিষ্ট, সহজলভ্য ব্যবহারের ক্ষেত্রে সহায়তা করা সহজ। জটিল ব্যবহারের ক্ষেত্রে, সার্ভার-সাইড বাস্তবায়ন বিবেচনা করুন।
• স্থিতিস্থাপকতা : ডিফল্টরূপে সার্ভার-সাইড ব্যবহার করুন এবং ডিভাইসটি অফলাইনে থাকলে বা সংযোগ বিচ্ছিন্ন থাকলে অন-ডিভাইস ব্যবহার করুন।
• সুন্দর ফলব্যাক : বিল্ট-ইন এআই সহ ব্রাউজারগুলি গ্রহণ করতে সময় লাগবে, কিছু মডেল অনুপলব্ধ হতে পারে এবং পুরানো বা কম শক্তিশালী ডিভাইসগুলি সমস্ত মডেলকে সর্বোত্তমভাবে চালানোর জন্য হার্ডওয়্যার প্রয়োজনীয়তা পূরণ নাও করতে পারে। এই ব্যবহারকারীদের জন্য সার্ভার-সাইড এআই অফার করুন।

উদাহরণস্বরূপ, যদি আপনি বিল্ট-ইন প্রম্পট API ব্যবহার করেন, তাহলে API শুধুমাত্র Chrome এক্সটেনশনে, Windows, macOS এবং Linux-এ উপলব্ধ। আপনার সমস্ত ব্যবহারকারী আপনার AI বৈশিষ্ট্য থেকে উপকৃত হতে পারেন তা নিশ্চিত করতে, Firebase AI Logic দিয়ে একটি হাইব্রিড আর্কিটেকচার সেট আপ করুন।

বিল্ট-ইন AI অ্যাক্সেস করুন

আপনি প্রাথমিকভাবে টাস্ক এপিআই , যেমন ট্রান্সলেটর এপিআই বা সামারাইজার এপিআই, দিয়ে অন্তর্নির্মিত এআই ক্ষমতা অ্যাক্সেস করতে পারেন। টাস্ক এপিআইগুলি অ্যাসাইনমেন্টের জন্য সেরা মডেলের বিরুদ্ধে অনুমান চালানোর জন্য ডিজাইন করা হয়েছে, তা ভাষা বা বিশেষজ্ঞ মডেলই হোক না কেন।

বিল্ট-ইন এআই কখন ব্যবহার করবেন

বিল্ট-ইন AI আপনার এবং আপনার ব্যবহারকারীদের উপকারে আসতে পারে এমন কয়েকটি উপায় এখানে দেওয়া হল:

• কৃত্রিম বুদ্ধিমত্তা-উন্নত কন্টেন্ট ব্যবহার : সারসংক্ষেপ, অনুবাদ, শ্রেণীকরণ, চরিত্রায়ন এবং জ্ঞান প্রদানকারী হিসেবে অন্তর্ভুক্ত।
• AI-সমর্থিত কন্টেন্ট তৈরি : যেমন লেখার সহায়তা, প্রুফরিডিং, ব্যাকরণ সংশোধন এবং পুনঃবাক্যবিন্যাস।

Chrome স্টেবল এবং অরিজিন ট্রায়ালে বেশ কিছু বিল্ট-ইন AI API পাওয়া যায়। Exploratory API এবং প্রাথমিক পর্যায়ের API গুলি আর্লি প্রিভিউ প্রোগ্রাম (EPP) অংশগ্রহণকারীদের জন্য উপলব্ধ।

নতুন বৈশিষ্ট্যগুলির পূর্বরূপ দেখুন

আপনার ব্যবহারের ক্ষেত্রে সাহায্য করার জন্য API গুলিকে গঠন করার জন্য আমাদের আপনার মতামত প্রয়োজন, এবং মানসম্মতকরণের জন্য অন্যান্য ব্রাউজার বিক্রেতাদের সাথে আমাদের আলোচনার তথ্য জানাতে হবে।

প্রাথমিক পর্যায়ের অন্তর্নির্মিত AI ধারণাগুলির উপর প্রতিক্রিয়া জানাতে এবং স্থানীয় প্রোটোটাইপিংয়ের মাধ্যমে চলমান API গুলি পরীক্ষা করার সুযোগগুলি আবিষ্কার করতে EPP-তে যোগদান করুন ।

মানসম্মতকরণ প্রচেষ্টা

আমরা ক্রস-ব্রাউজার সামঞ্জস্যের জন্য এই সমস্ত API গুলিকে মানসম্মত করার জন্য কাজ করছি।

ভাষা আবিষ্কারক API এবং অনুবাদক API W3C WebML ওয়ার্কিং গ্রুপ দ্বারা গৃহীত হয়েছে। আমরা Mozilla এবং WebKit-এর কাছে তাদের মান অবস্থান সম্পর্কে জিজ্ঞাসা করেছি।

Summarizer API, Writer API, এবং Rewriter API-গুলি W3C WebML ওয়ার্কিং গ্রুপ দ্বারাও গৃহীত হয়েছে। আমরা Mozilla এবং WebKit-এর কাছে তাদের স্ট্যান্ডার্ড অবস্থান সম্পর্কে জিজ্ঞাসা করেছি।