std::ptr::addr_of! 매크로는 안전하지 않은 Rust에서 필드에 대한 원시 포인터를 생성하는 데 중요한 역할을 하며, 참조를 생성하는 중간 단계를 거치지 않고도 필드에 직접 포인터를 생성할 수 있습니다. #[repr(packed)] 구조체를 다룰 때, 필드는 정렬되지 않은 메모리 오프셋에 존재할 수 있으며, 이는 참조 타입에 내재된 정렬 요건을 위반합니다. 이러한 정렬되지 않은 데이터에 대해 & 연산자를 사용하여 참조를 생성하려고 하면 즉시 정의되지 않은 동작이 발생하며, 이후 참조가 사용될지 여부와 관계없이 이 경우가 적용됩니다. addr_of! 매크로는 필드의 주소에서 직접 원시 포인터를 생성하여 참조에 의해 시행되는 정렬 및 유효성 불변 조건을 우회합니다. 이러한 구분은 패킹된 데이터 레이아웃이 일반적인 안전한 FFI 상호작용 및 저수준 메모리 조작에 매우 중요합니다.
고성능의 레거시 바이너리 프로토콜 분석기를 개발하는 중, 엔지니어링 팀은 외부 하드웨어 레지스터 맵에 맞춰 u32 필드를 1바이트 오프셋에 고의적으로 배치한 #[repr(packed)] 구조체를 발견했습니다. 초기 구현에서는 이 필드를 &packet.status_register를 사용하여 검증 함수에 전달하려고 시도했으며, 이는 정렬되지 않은 참조를 생성하고 즉시 정의되지 않은 동작을 유발함을 알지 못했습니다.
첫 번째 해결책은 packed 속성을 제거하고 수동으로 패딩 바이트를 삽입하여 정렬을 강제하는 것이었습니다. 이 접근 방식은 자연스러운 참조 생성을 허용하므로 안전성을 보장했지만, 하드웨어 사양과의 바이너리 호환성을 깨고 이러한 구조체의 큰 배열을 전송할 때 메모리 대역폭을 낭비하게 됩니다.
두 번째 접근 방식은 unsafe { &*(base_ptr.add(1) as *const u32) }를 사용하여 필드 주소를 수동으로 계산하는 것이었습니다. 이 방법은 직접 필드 접근 구문을 피했지만, 여전히 &* 역참조 연산자를 통해 참조를 생성하며, 결과 포인터가 올바르게 정렬되지 않으면 이는 정의되지 않은 동작이 발생하여 원래의 순진한 참조 생성에 대한 안전성 개선을 제공하지 않으며 미래의 유지보수자를 혼동하게 할 수 있습니다.
팀은 궁극적으로 세 번째 해결책을 선택하여 **std::ptr::addr_of!**를 사용해 정렬되지 않은 필드에 대한 원시 포인터를 참조 중간체를 생성하지 않고 도출했습니다. 이 포인터는 이후 std::ptr::read_unaligned에 전달되어 안전하게 적절하게 정렬된 지역 변수에 값을 복사했습니다. 이러한 전략은 필요한 메모리 레이아웃을 보존하면서 Rust의 메모리 모델을 엄격히 준수하여, Miri로 철저한 테스트를 통과하고 ARM 및 x86_64 등 여러 타겟 아키텍처에서 올바르게 작동하는 코드를 만들어냈습니다.
정렬되지 않은 데이터에 대한 참조 생성을 하는 것이 왜 정의되지 않은 동작을 초래하는가, 참조가 즉시 원시 포인터로 캐스팅되더라도?
Rust에서 참조를 생성하는 행위는 &packed.field와 같이 단순한 포인터 계산이 아니라, 목표 메모리가 참조 타입의 모든 불변성을 충족함을 컴파일러에 알리는 것입니다. 여기에는 정렬 및 읽기에 대한 유효성이 포함됩니다. LLVM 백엔드와 Rust의 최적화기는 참조 생성 시 이러한 불변성이 여전히 유지된다는 가정을 하여, 적재-저장 재배치 또는 추측 적재와 같은 공격적인 최적화를 가능하게 합니다. 참조가 즉시 *const T로 캐스팅되더라도, 최적화기는 정렬된 접근을 가정하고 명령어를 이미 생성했거나, LLVM 메타데이터에서 참조 값을 '역참조 가능'으로 표시할 수 있으므로, 정렬 요건이 엄격한 아키텍처에서 잘못된 컴파일이 일어날 수 있습니다. 따라서 정의되지 않은 동작은 참조 생성 순간에 발생하며, 역참조 시점에는 발생하지 않기 때문에 정렬되지 않은 참조의 존재는 프로그램의 정확성을 해치는 것입니다.
addr_of!가 기존 참조에 대해 as *const _를 사용하는 것과 어떻게 다르며, 왜 매크로가 필요한가?
&packed.field as *const T라는 코드를 작성할 경우, Rust 컴파일러는 먼저 참조를 생성하며(정렬 검사 및 잠재적인 UB를 유발) 그런 다음 그 유효한 참조를 원시 포인터로 변환합니다. 반면에 **std::ptr::addr_of!**는 위치 표현식(필드)에서 직접 작동하여, 참조 중간체를 생성하지 않고 원시 포인터를 생성합니다. 이것은 중요합니다. 왜냐하면 컴파일러는 addr_of!의 내부를 특별한 구문으로 처리하여 참조 유효성 검사를 건너뛰지만, as 키워드는 원본 값(참조)이 유효해야 하는 값 대 값 변환을 요구하기 때문입니다. 매크로를 사용하면 포인터 유도 자체가 정렬 위반으로 정의되지 않은 동작을 유발할 수 없도록 보장되어, 잠재적으로 정렬되지 않은 데이터 주소를 얻기 위한 유일한 안전한 경로를 제공합니다.
UnsafeCell을 포함하는 구조체 내에서 필드에 대한 포인터를 얻기 위해 addr_of_mut!를 사용할 때 어떤 추가 고려 사항이 적용되는가?
#[repr(packed)] 구조체가 **UnsafeCell<T>**를 포함하는 경우, 내부에 대한 가변 포인터를 얻으려면 Rust의 별칭 규칙을 신중하게 처리해야 합니다. UnsafeCell은 내부 변경 가능성을 제공하지만, 정렬되지 않은 UnsafeCell 필드에 대한 가변 참조(&mut)를 생성하는 것은 여전히 정렬 요건을 위반하며 정의되지 않은 동작입니다. 후보자들은 종종 UnsafeCell이 포인터를 정렬 규칙에서 면제한다고 가정하지만, 이는 독점 참조 별칭 보장(noalias)만 면제할 뿐 정렬에서는 면제되지 않습니다. **addr_of_mut!**를 사용하면 *mut T가 생성되며, 이는 결국 역참조되거나 UnsafeCell::raw_get에 전달될 때 기본 타입의 정렬을 여전히 존중해야 하므로, 실제 데이터 접근을 위해 read_unaligned 또는 write_unaligned를 사용해야 합니다.