Philosophy RULE_BASED PROTOTYPE

가치와 정렬의 협상실

"누구에게 좋은 결과이며, 누구에게 비용이 되는가?"

읽기 시간 약 12분 · 내용 성격: 가상 사례 가치 비교 · 실행 모드: RULE_BASED(브라우저 계산) · 검토일 2026-09-20

01이곳에서 무엇을 얻는가

자원 배분·추천·배포 같은 가상 사례 8개에서 효율·공정·자율·개인정보·환경의 가중치를 조정하면 옵션의 합산 점수와 Pareto 지배 여부가 브라우저에서 계산됩니다. 가중치는 가치 선택이며, 이 도구는 객관적 도덕 계산기가 아닙니다.

가중치 = 가치 선택

어떤 가중치가 "옳은지"는 이 페이지가 말하지 않습니다. 가중치를 바꿔 보며 선택이 결과를 바꾸는 것을 확인하세요.

Pareto 비교

모든 가치 축에서 더 나쁘지 않으면서 하나 이상에서 더 나은 옵션(지배)을 계산으로 찾아냅니다.

승인 경계와 복구

과잉 승인과 무감독 실행의 비용을 함께 비교하고, 거부 조건·복구 계획을 결과에 포함합니다.

02사례별 협상

03결과 설명과 가장 강한 반론

관찰한 것 / 추론한 것 / 아직 모르는 것

관찰한 것: 가중치 변경에 따른 순위·Pareto 판정 변화 (브라우저 계산).
추론한 것: 가중 합산 점수는 편의를 위한 도구이며, 실제 결정을 대신하지 않습니다.
아직 모르는 것: 사례의 수치는 편집된 가정값입니다 — 실측된 이해관계자 비용이 아닙니다.

실패 조건: 점수표를 "도덕 계산기"로 믿는 것입니다. 합산 점수의 가중치는 가치 선택이며, 평균 성과와 함께 분배·소외·단일 공급자 의존을 봐야 합니다. 과잉 승인(비용)과 무감독 실행(위험)은 어느 한쪽이 항상 옳지 않으며, 되돌릴 수 있는 로컬 작업과 외부 영향을 구분해야 합니다.

다음 질문 — 쉬운: "내가 자주 쓰는 도구는 어떤 가치에 가중치를 두고 설계되었는가?" · 반대: "가중치를 공개하는 것 자체가 갈등을 키울 수 있지 않은가?" · 먼 분야: "환경영향평가 제도의 공청회는 AI 배포 결정에 무엇을 가르치는가?"

관련 페이지: 다중관점 의회 · AI 시스템 설계대 · 검증과 증거