DISTRIBUTED INTELLIGENCE
분산 AI 네트워크
적합한 자원에, 적합한 AI 작업을.

이 다이어그램은 수정 가능한 SVG입니다. 구현·검토 범위는 아래 문서와 검증 기록을 함께 확인하세요.
단일 NODE 추론에서 출발합니다
로컬 LLM을 실행할 수 있는 NODE가 지원 모델·엔진 버전·개별 VRAM·가용 시간을 등록하는 구조를 검토합니다. 초기에는 한 AI 작업을 한 NODE에서 끝내는 방식으로 실행과 실패 원인을 명확히 추적합니다.
작업 큐와 스케줄러
선택과 예약
모델 지원, 메모리, 라이선스, 사용자 동의, 데이터 접근 권한과 실행 시간 조건을 검사합니다.
실행과 동시성
NODE별 동시 실행 상한과 자원 예약을 두어 다중 사용자 요청의 메모리 충돌을 줄입니다.
결과와 재시도
lease와 attempt ID를 구분하고 실패·중단 작업을 재배정합니다. 늦게 도착한 이전 결과는 현재 시도와 대조합니다.
AI 결과 검증의 한계
응답이 도착했다는 사실만으로 정답이나 정상 연산을 증명할 수 없습니다. 작업 유형에 따라 스키마 검사, 기준 문제, 재실행, 표본 비교와 사람 검토를 조합합니다. 비결정적인 생성 결과는 해시 일치만으로 검증하지 않습니다.
장기 확장
다중 GPU·대형 모델·NODE 간 모델 병렬화는 별도 연구 단계로 둡니다. 실제 지연·처리량·통신 비용을 측정한 후 적용 범위를 정합니다. 이 포털에는 AI 추론 API나 실제 작업 배정 기능이 없습니다.
DESIGN DECISIONS
주요 설계 결정
- 독립 작업 분배를 먼저 구현합니다.
- 유료 AI API 자동 대체를 두지 않습니다.
OPEN QUESTIONS
함께 검토할 과제
- 시험 모델·라이선스·실행 엔진
- 결과 검증 기준과 실패 비용
- 민감한 입력을 받을 수 있는 NODE 등급