Circuit Breaker Labs хочет сделать ИИ безопаснее для ваших детей — и для вас

Circuit Breaker Labs разрабатывает тесты безопасности для ИИ-систем, которые могут общаться с детьми и помогать людям с психологическими трудностями. Стартап создал ИИ-агентов, имитирующих пользователей разного возраста, происхождения и языкового опыта: с их помощью модели проверяют на опасные ответы в реалистичных диалогах. Компания — финалист TechCrunch Startup Battlefield 200 в 2026 году — сейчас работает с приложениями для психологической поддержки, а в будущем рассчитывает тестировать и другие продукты, где у пользователей может возникнуть нездоровая привязанность к чат-боту.

👉 Читать полностью