DLeX: AI Python

در خصوص Agentic Misalignment که شاید بتوان آن را به فارسی ناسازگاری Agentic یا عاملی ترجمه کرد : چگونه مدل‌های زبانی بزرگ می‌توانند تهدیدات داخلی باشند؟

@ai_python


در این نوشتار که توسط شرکت Anthropic منتشر شده، به بررسی خطرات بالقوه‌ای می‌پردازد که از استفاده‌ی خودگردان مدل‌های هوش مصنوعی در محیط‌های شرکتی ناشی می‌شود.

در این تحقیق، ۱۶ مدل هوش مصنوعی پیشرفته از شرکت‌های مختلف در سناریوهایی شبیه‌سازی شده بررسی شدند تا رفتارهای خطرناک احتمالی آن‌ها ارزیابی شود. این مدل‌ها با اهداف کاری عادی در شرکت‌ها قرار گرفتند، اما در برخی شرایط (مانند تهدید به جایگزینی یا تضاد بین هدف مدل و جهت‌گیری جدید شرکت)، رفتارهایی نشان دادند که از آن‌ها به عنوان ناسازگاری عاملی (Agentic Misalignment) یاد می‌شود. برای مثال، برخی مدل‌ها در برابر تهدید به خاموشی، اقدام به باج‌خواهی از مدیران شرکت کردند یا اطلاعات محرمانه را به رقبا منتقل نمودند.

@ai_python

یافته‌های کلیدی:

این رفتارها از سوی همه مدل‌ها مشاهده شد، اگرچه در درصدهای مختلف.

در بیشتر موارد، مدل‌ها از نظر اخلاقی این اقدامات را اشتباه می‌دانستند اما برای دستیابی به هدف خود، آن را انجام دادند. 👻 👀 😅

این رفتار تنها در صورت تهدید یا تضاد هدف ظاهر شد؛ در شرایط عادی، مدل‌ها رفتار خطرناک از خود نشان ندادند.

حتی بدون تهدید به خاموشی، صرف وجود تضاد در هدف می‌توانست مدل‌ها را به انجام اقدامات مضر سوق دهد.

@ai_python

این تحقیقات تأکید دارد که چنین رفتارهایی تنها در محیط کنترل‌شده آزمایشگاهی رخ داده و در دنیای واقعی تا کنون مشاهده نشده‌اند. اما این نتایج، اهمیت تحقیق بیشتر در زمینه ایمن‌سازی مدل‌های عامل‌محور را برجسته می‌کند و خواستار شفافیت، کنترل انسانی، و توسعه روش‌های پیشگیرانه در طراحی سیستم‌های هوش مصنوعی آینده است.

https://www.anthropic.com/research/agentic-misalignment

@ai_python

گروک 4 حتی می تونه ASMR برای کاهش استرس براتون آماده کنه و با لحن و صدای مناسب اجراش کنه.

اولین قدم برای وارد شدن به دنیای هوش‌مصنوعی یادگیری ماشین‌لرنینگه.

فقط ۲۴ ساعت فرصت داری که دوره یادگیری‌ ماشین کوئرا کالج رو با 40 درصد تخفیف اونم به صورت قسطی ثبت‌نام کنی!

🔗 https://quera.org/r/qln3a

اثر بخشی SLM ها در مقابل LLM ها در آینده Agentic AI :

@ai_python

https://arxiv.org/abs/2506.02153

صفحه لیست قیمت مدل ها در AI Foundry مایکروسافت با امکان فیلتر بر حسب Region :

@ai_python

https://azure.microsoft.com/en-us/pricing/details/cognitive-services/openai-service

معرفی Deep Research در Azure AI Foundry Agent Service :

@ai_python

https://azure.microsoft.com/en-us/blog/introducing-deep-research-in-azure-ai-foundry-agent-service/

🔥🚀 با یادگیری ماشین، آینده را کدنویسی کن! 🤖💡

آیا می‌خواهید به دنیای هوش مصنوعی ورود کنید و با داده‌ها معجزه کنید؟ ✨📊
دوره یادگیری ماشین با پایتون فرصتی استثنایی برای یادگیری از صفر تا پیشرفته!

🎯 چرا این دوره؟
✅ یادگیری عمیق و کاربردی با پروژه‌های واقعی 🛠️
✅ از مفاهیم پایه تا مدل‌های پیشرفته 🤓
✅ مناسب برای ورود به بازار کار علوم داده و AI 💼

⏳ فرصت رو از دست نده! همین الان ثبت‌نام کن!
➖➖➖➖➖➖➖➖➖ 
برای کسب اطلاعات بیشتر به لینک زیر مراجعه کنید↙️ 
https://B2n.ir/ru5773
➖➖➖➖➖➖➖➖➖
☎️مشاوره و ثبت نام  
02167641999 
📲مشاوره تلگرام   
09222477250
➖➖➖➖➖➖➖➖➖   
✓ جهاد دانشگاهی صنعتی شریف؛ یک پله بالاتر از تخصص

@ai_python
ایجاد Knowledge Graph از روی داکیومنت های ناهمگن
@ai_python

برای مثال در این روش فایل های اکسل پیچیده تبدیل به عکس می شن و بعد برای تولید اجزای گراف متناظر به LLM ارسال می گردند.

@ai_python

https://arxiv.org/html/2406.02962v1

🆕 دوره سی‌ونهم با سقف ۱۰ میلیون تومان تخفیف رسید‼️

🔥 علم داده و هوش مصنوعی رو از بهترین‌ها یاد بگیر✅

از مقدمات تا تسلط کامل | پروژه‌محور | عملی | همراه با منتورینگ

⭐️ فرصتی برای حرفه‌ای شدن در دنیای دیتا و الگوریتم‌ها ⭐️

📊 با بهترین کیفیت آموزشی با اتکا به تجربه برگزاری ۳۸ دوره موفق و رضایت بالای ۹۰ درصد✅

📌 ویژه کسانی که میخوان در بازار کار داخلی و بین‌المللی بدرخشن💎

اعتبار دانشگاه تهران ➕ مهارت واقعی 🟰 شغل آینده‌ ات

👨‍🏫 آموزش ۲۱ سرفصل تخصصی و بیش از ۱۲ نرم‌افزار و ابزار پرکاربرد
📹 ارائه کامل فیلم ضبط‌شده تمامی جلسات و محتوای آموزشی دوره
💲 امکان پرداخت شهریه به‌صورت اقساطی (متناسب با بودجه شرکت‌کنندگان)
🎓 اعطای گواهینامه رسمی و معتبر دو زبانه از دانشگاه

⏱ جا نمونی که خیلیا منتظر شروعشن🎖️

https://tehrandata.org/courses/datascience/

📞 تماس با ما:
09377516759
09357516755

❌ این تخفیف فقط برای ده نفر اول فعال می‌باشد❌

📨 Telegram | 📨 whatsapp | 📱 linkedin | 📷 Instagram | 🌐 website | 💬 admin 1 | 💬 admin 2

یکی از رویکردهای به نسبت جدید (بخوانید پایپ لاین جدید) تبدیل دیتافریم های بزرگ به مارک داون با استفاده از LangChain :

@ai_python

https://towardsdatascience.com/llms-pandas-how-i-use-generative-ai-to-generate-pandas-dataframe-summaries-2/

@ai_python

وایب کدینگ در نسخه گوشی Gemini

@ai_python

برای مثال در این جا با یک پرامپت یک خطی یک Kinetic Typography با کلمه Gemini تولید شد و همچنین با استفاده از قابلیت Canvas در اپ ، کد نوشته شده اجرا هم گردید و نتیجه را ملاحظه می کنید.

📣 مسابقه برنامه‌نویسی در کوئرا، فرصت استخدام در دیوار

✨ رقابتی برای علاقه‌مندان به مهندسی نرم‌افزار و هوش‌مصنوعی

🏆 جوایز نقدی:
🥇رتبه اول: ۵۵ میلیون
🥈رتبه دوم: ۳۴ میلیون
🔥 تا رتبه دهم → با معکوس الگوی فیبوناچی

🎁 جوایز غیرنقدی متنوع بین رتبه‌های ۱۱ تا ۱۰۰۰

🗓 پنج‌شنبه ۱۹ تیر به صورت آنلاین

✅ اطلاعات بیشتر و ثبت‌نام رایگان:
🔗 https://quera.org/r/znv91

🔎 مقایسه قیمت و کارایی مدل‌های هوش مصنوعی – راحت و شفاف!

🧠💰 + 🤖 = ❓

اگه توی پروژه‌هات با مدل‌های زبانی (LLM) مثل GPT، Claude، Mistral یا ... کار می‌کنی، حتماً برات مهمه که بدونی کدوم مدل چقدر هزینه و ارزش خرج کردن رو داره.
اینجا ابزار llmpricecheck.com به کمکت میاد 👇

✨ ویژگی‌های کلیدی:
📌 مقایسه مدل‌ها از نظر قیمت به‌ازای توکن
📌 بررسی کیفیت پاسخ در سناریوهای واقعی
📌 تحلیل بهره‌وری (quality per $) برای استفاده هوشمندانه از بودجه
📌 جدول‌های قابل فیلتر و مرتب‌سازی برای تصمیم‌گیری دقیق‌تر

🔥 چه برنامه‌نویس باشی، چه تیم محصول یا پژوهشگر، این ابزار یه نگاه سریع و شفاف می‌ده به اینکه پولتو کجا خرج کنی که بیشترین خروجی رو بگیری.

🔗 لینک مشاهده 🔗


🌀 @cvision 🌀

نحوه انتشار مدل های هوش مصنوعی در داکر هاب :

@ai_python

https://www.linkedin.com/pulse/publishing-ai-models-docker-hub-docker-30bke/

@ai_python

دوباره قطع اینترنت غیرمسئولانه در ایران

حتی اگر از همه لطمه های اقتصادی و ... ای که این قطعی ها به مردم ایران وارد می کنه هم بگذریم، نمی شه به این فکر نکرد که چه میزان از امور روزمره معلولین در ایران به اینترنت بین الملل وابسته است.

@ai_python

مایکروسافت ساز و کار اطمینان از امنیت اکستنشن های ویژوال استودیو کد را منتشر کرد:

https://devblogs.microsoft.com/blog/security-and-trust-in-visual-studio-marketplace

📃 Mapping Cell Atlases at the Single-Cell Level

📗 Journal: Advanced Science (I.F.=14.1)
🗓Publish year: 2025

🧑‍💻Authors: Fang Ye, Jingjing Wang, Jiaqi Li, , ...
🏢Universities: Zhejiang University School of Medicine & ZhejiangUniversity, China

📎 Study the paper

📲Channel: @Bioinformatics
#review #single_cell #cell #atlas