Post #5087
1.58K
마인부우의 크립토볼 이전에 ai16z로 에이전트가 핫할때 ai agent를 TEE 내부에서 돌리려는 니즈가 있었던 것처럼 최근 로컬 LLM을 TEE 내부에서 돌리려는 니즈가 커지고 있는 것 같아요 왜 TEE 내부에서 돌리려는 니즈가 있을까? 크게 두가지 1. 데이터 프라이버시: 일반 서버에서 돌릴 경우 사용자의 요청과 추론 응답을 서버가 알 수 있음. TEE 사용했을 때 내부에서만 사용자의 prompt 요청을 볼 수 있도록 암호화하여 전송 가능. 마찬가지로 추론 결과 또한…
참고로 near ai cloud도 팔라 TEE 스택을 사용합니다
- ❤ 1