واترمارک گوگل برای تصاویر هوش مصنوعی بدون امکان ویرایش و حذف
تاریخ انتشار: ۱۵ شهریور ۱۴۰۲ | کد خبر: ۳۸۶۲۸۹۵۵
ایتنا - با توجه نزدیک شدن یک فصل انتخاباتی بحث‌برانگیز دیگر در سال 2024 در ایالات متحده و بریتانیا، هاسابیس می‌گوید که ساخت سیستم‌هایی برای شناسایی و تشخیص تصاویر تولیدشده توسط هوش مصنوعی از همیشه مهمتر شده است. تیم DeepMind گوگل سال‌هاست بر این باور بوده است که ساخت ابزارهای مولد هوش مصنوعی به ساخت ابزارهای عالی برای تشخیص آنچه توسط هوش مصنوعی ایجاد شده است نیز نیاز دارد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
به گزارش ایتنا و به نقل از ورج، با توجه نزدیک شدن یک فصل انتخاباتی بحث‌برانگیز دیگر در سال 2024 در ایالات متحده و بریتانیا، هاسابیس می‌گوید که ساخت سیستم‌هایی برای شناسایی و تشخیص تصاویر تولیدشده توسط هوش مصنوعی از همیشه مهمتر شده است.
هاسابیس و تیمش در چند سال گذشته بر روی ابزاری کار کرده اند که گوگل آن را به صورت عمومی منتشر کرد. نام این ابزار SynthID است و اساساً برای علامت‌گذاری (واترمارک) تصاویر تولیدشده توسط هوش مصنوعی به گونه‌ای طراحی شده است که برای چشم انسان نامحسوس باشد اما به راحتی توسط یک ابزار تشخیص هوش مصنوعی قابل تشخیص باشد.
این واترمارک در پیکسل‌های تصویر تعبیه می‌شود، اما هاسابیس می‌گوید که خود تصویر را به شکل قابل‌توجهی تغییر نمی‌دهد. او می‌گوید: «این ابزار باعث تغییر تصویر، کیفیت تصویر یا تجربه آن نمی‌شود. اما در برابر دگرگونی‌های مختلف (برش زدن، تغییر اندازه، و همه کارهایی که ممکن است برای دور زدن واترمارک‌های معمولی، سنتی و ساده انجام شوند) مقاوم است. هاسابیس می‌گوید همانطور که مدل‌های اساسی SynthID بهبود می‌یابد، واترمارک حتی کمتر برای انسان قابل درک است اما با ابزارهای DeepMind به راحتی قابل تشخیص است.
البته حتی در پست وبلاگ راه‌اندازی آن نیز جزئیات چندانی درباره SynthID ارائه نشده است. هاسابیس می‌گوید: «هرچه بیشتر اطلاعات در مورد نحوه کار آن فاش کنید، هکرها و نهادهای شرور راحت‌تر می‌توانند آن را دور بزنند». SynthID ابتدا به شکلی مبتنی بر گوگل عرضه می‌شود: مشتریان Google Cloud که از پلتفرم Vertex AI شرکت و تولیدکننده تصویر Imagen استفاده می‌کنند، قادر خواهند بود واترمارک را تعبیه کرده و شناسایی کنند.
با توجه به اینکه این سیستم به تدریج در دنیای واقعی بیشتر تست خواهد شد، هاسابیس امیدوار است که به مرور عملکرد آن بهتر شود. سپس گوگل می‌تواند از آن در مکان‌های بیشتری استفاده کند، اطلاعات بیشتری در مورد نحوه عملکرد آن به اشتراک بگذارد و حتی داده‌های بیشتری در مورد نحوه عملکرد آن دریافت کند.
منبع: ايتنا
کلیدواژه: دیپ فیک هوش مصنوعی واترمارک گوگل توسط هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.itna.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۶۲۸۹۵۵ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
ربات‌های قاتل؛ ترس از آینده هوش مصنوعی
ایتنا - نگرانی‌هایی در محافل اروپایی به دلیل توسعه سیستم‌های هوش مصنوعی و میزان نفوذ آنها وجود دارد که ممکن است منجر به ظهور به اصطلاح "ربات‌های قاتل" شود.
روز دوشنبه، اتریش خواستار تلاش‌های جدیدی برای تنظیم قوانینی برای استفاده از هوش مصنوعی در سیستم‌های تسلیحاتی شد، در حالی که میزبان کنفرانسی با عنوان «انسانیت در تقاطع: سیستم‌های تسلیحات خودمختار و چالش‌های مقررات» بود.
این کنفرانس با هدف احیای بحث‌های متوقف شده در مورد این موضوع، یعنی توسعه هوش مصنوعی و لزوم وجود کنترل‌هایی برای تنظیم آن برای مهار هر گونه پیامدهای نامطلوبی که ممکن است منجر شود، برگزار می‌شود.
با پیشرفت سریع فناوری هوش مصنوعی، سیستم‌های تسلیحاتی که می‌توانند بدون دخالت انسان کشته شوند، بیشتر نمایان می‌شوند و چالش‌های اخلاقی و قانونی را ایجاد می‌کنند که اکثر کشورها می‌گویند باید در اسرع وقت به آن رسیدگی کنند.
الکساندر شالنبرگ وزیر امور خارجه اتریش در جلسه‌ای با حضور سازمان‌های غیردولتی و بین‌المللی و همچنین نمایندگانی از 143 کشور گفت: «اکنون زمان توافق بر سر قوانین بین‌المللی است، استانداردهایی برای تضمین کنترل انسانی.»
وی در سخنرانی افتتاحیه خود در این کنفرانس افزود: «ما حداقل باید اطمینان حاصل کنیم که تصمیمات حیاتی در مورد اینکه چه کسی زندگی می‌کند و چه کسی می‌میرد در دست انسان‌ها باقی بماند، نه ماشین‌ها».
برای سالها بحث در سازمان ملل بدون دستیابی به نتایج ملموس گذشت. بسیاری از شرکت کنندگان در کنفرانس دو روزه در وین اعلام کردند که زمان برای اقدام به سرعت در حال اتمام است.
میرجانا اسپولیاریک، رئیس کمیته بین‌المللی صلیب سرخ، در جریان میزگردی در کنفرانس گفت: «بسیار مهم است که ما به سرعت اقدام کنیم.
وی افزود: آنچه امروز در زمینه‌های مختلف خشونت شاهد آن هستیم، شکست‌های اخلاقی در برابر جامعه جهانی است.
هوش مصنوعی در حال حاضر در میدان‌های جنگ استفاده می‌شود. دیپلمات‌ها می گویند که پهپادهای اوکراینی به گونه‌ای طراحی شده‌اند که حتی زمانی که ارتباط بین آنها و اپراتور با استفاده از تکنیک‌های پارازیت قطع شود، به مسیر خود به سمت هدف خود ادامه دهند.
ایالات متحده در این ماه اعلام کرد که در حال بررسی گزارش رسانه‌ای است مبنی بر اینکه ارتش اسرائیل از هوش مصنوعی برای کمک به شناسایی اهداف بمباران در غزه استفاده می کند.
جان تالین، یکی از محققان، می‌گوید: «ما قبلاً دیده‌ایم که هوش مصنوعی مرتکب اشتباهات کوچک و بزرگ می‌شود، از تشخیص ندادن بین توپ فوتبال و سر بدون موی داور گرفته تا مرگ عابران پیاده در جاده‌ها ناشی از اتومبیل‌های خودران».
توسعه‌دهنده نرم‌افزار و سرمایه‌گذار فناوری، در نامه‌ای رسمی گفت که قادر به شناسایی افرادی است که خارج از خطوط تعیین‌شده راه می‌روند.
وی افزود: باید در مورد اتکا به دقت این سامانه ها چه در بخش نظامی و چه غیرنظامی بسیار دقت کنیم.
اعلام محدودیت های ترافیکی پایان هفته در جاده های شمالی کشور