در میان تمام بحثهایی که دربارهی نقاط ضعف احتمالی هوش مصنوعی مطرح میشود نگرانی اصلی این است که با استفادهی استارتاپها و شرکتها از مدلهای هوش مصنوعیِ آزمایشگاههایی مانند OpenAI و Anthropic، این آزمایشگاهها به حساسترین اطلاعات تجاری این شرکتها دسترسی پیدا میکنند. JC از طرفی سازندگان مدل میتوانند از این دانش برای خود استفاده کنند و به رقیبی برای مشتریانشان تبدیل شوند.
به گزارش تکرانچ ساتیا نادلا (مدیرعامل مایکروسافت) هشدار میدهد که کاربران هوش مصنوعی در حال پرداخت دوگانه هستند. آنها آگاهانه برای استفاده از توکنهای هوش مصنوعی پول خرج میکنند، اما در عین حال بهطور ناآگاهانه دادههای ارزشمند خود را نیز تحویل میدهند.
او در این باره مینویسد: «شما در واقع دو بار برای هوش مصنوعی هزینه پرداخت میکنید؛ یک بار با پول و بار دیگر با چیزی بسیار ارزشمندتر، یعنی دانش اختصاصی که باید برای مفید کردن آن هوش مصنوعی فاش کنید. هرچه میخواهید مدل عملکرد بهتری داشته باشد، باید دانش بیشتری به آن تزریق کنید!»
او استدلال میکند که خطرناکترین بخش ماجرا این است که شرکتها بهمعنای واقعی کلمه در حال آموزش تفاوتهای ظریف کسبوکار خود به این مدلها هستند. نادلا مینویسد: «مدلها از پرامپتهایی که افراد مینویسند، ابزارهایی که دستیارها استفاده میکنند و بهویژه اصلاحاتی که کاربران در هنگام اشتباه مدل انجام میدهند، یاد میگیرند. هر اصلاح به یک دانش سازمانی تبدیل میشود.»
این دقیقا همان دانشی است که یک رقیب هرگز نمیتواند بخرد، اما شرکتها بهراحتی آن را تحویل میدهند. نادلا معتقد است که اگر شرکتهای هوش مصنوعی میتوانند آزادانه اینترنت را برای آموزش مدلهای خود اسکرپ (Scrape) کنند، این حق برای شرکتها نیز محفوظ است که در مقابل، آن مدلها را بررسی کنند.
راهکار مدیرعامل مایکروسافت چیست؟
او از شرکتها میخواهد که مالکیت دادههای خود، از جمله پرامپتها و بازخوردها را حفظ کنند. بنابراین، او شرکتها را ترغیب میکند تا محیطهای یادگیری اختصاصی خود را در فضای ابری بسازند. او همچنین میخواهد شرکتها لایههایی ایجاد کنند تا بهجای محدود شدن به یک ارائهدهنده، بهراحتی بتوانند بین مدلهای هوش مصنوعی مختلف جابهجا شوند.
با وجود اینکه نادلا هرگز از کلمهی «منبعباز» بهعنوان روشی برای حفظ مالکیت دادهها استفاده نمیکند، اما این مفهوم کاملا در صحبتهای او پیدا است. شرکتهای بزرگ در حال حاضر به سمت نصب مدلهای منبعباز در سرورهای محلی خود حرکت میکنند. یک مدل منبعباز میتواند تقریبا ۹۰ درصد کارهای مدلهای بزرگ را انجام دهد و هزینهی بسیار کمتری برایشان دارد.
با هشدار صریح مدیرعامل مایکروسافت، شرکتی که هم در OpenAI و هم در Anthropic سرمایهگذاری کرده است، به نظر میرسد این روند رو به رشد ادامه خواهد داشت. نادلا در پایان تاکید میکند: «شما با مصرف هوش مصنوعی، در حال خلق هوش مصنوعی هستید و آنچه خلق میکنید باید متعلق به خودتان باشد.»
