# 분산 AI 네트워크

적합한 자원에, 적합한 AI 작업을.

상태: 검토 중
수정일: 2026-11-02

## 단일 NODE 추론에서 출발합니다

로컬 LLM을 실행할 수 있는 NODE가 지원 모델·엔진 버전·개별 VRAM·가용 시간을 등록하는 구조를 검토합니다. 초기에는 한 AI 작업을 한 NODE에서 끝내는 방식으로 실행과 실패 원인을 명확히 추적합니다.


## 작업 큐와 스케줄러



### 선택과 예약

모델 지원, 메모리, 라이선스, 사용자 동의, 데이터 접근 권한과 실행 시간 조건을 검사합니다.

### 실행과 동시성

NODE별 동시 실행 상한과 자원 예약을 두어 다중 사용자 요청의 메모리 충돌을 줄입니다.

### 결과와 재시도

lease와 attempt ID를 구분하고 실패·중단 작업을 재배정합니다. 늦게 도착한 이전 결과는 현재 시도와 대조합니다.

## AI 결과 검증의 한계

응답이 도착했다는 사실만으로 정답이나 정상 연산을 증명할 수 없습니다. 작업 유형에 따라 스키마 검사, 기준 문제, 재실행, 표본 비교와 사람 검토를 조합합니다. 비결정적인 생성 결과는 해시 일치만으로 검증하지 않습니다.


## 장기 확장

다중 GPU·대형 모델·NODE 간 모델 병렬화는 별도 연구 단계로 둡니다. 실제 지연·처리량·통신 비용을 측정한 후 적용 범위를 정합니다. 이 포털에는 AI 추론 API나 실제 작업 배정 기능이 없습니다.


## 설계 결정

- 독립 작업 분배를 먼저 구현합니다.
- 유료 AI API 자동 대체를 두지 않습니다.

## 검토 과제

- 시험 모델·라이선스·실행 엔진
- 결과 검증 기준과 실패 비용
- 민감한 입력을 받을 수 있는 NODE 등급