일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 | 31 |
Tags
- anti debugging
- Android
- linux debugging
- pthread
- pinpoint
- LLVM
- on-stack replacement
- linux thread
- android inject
- TLS
- 난독화
- tracerpid
- custom packer
- OSR
- tracing
- thread local storage
- v8 optimizing
- apm
- LLVM Obfuscator
- Linux custom packer
- on stack replacement
- Obfuscator
- v8 tracing
- LLVM 난독화
- so inject
- uftrace
- Linux packer
- initial-exec
- Injection
- 안티디버깅
Archives
- Today
- Total
Why should I know this?
Memcpyopt crashes with simple IR 본문
이번에 살펴볼 패치는 매우 짧아서 좋은 패치 입니다.
패치의 링크
https://github.com/llvm/llvm-project/issues/71183
최초에 문제가 발생하는 IR 은 다음과 같습니다.
define void @"julia_#36#f_439"() {
top:
call void @llvm.memcpy.p0.p11.i64(ptr null, ptr addrspace(11) null, i64 0, i1 false), !tbaa !0
ret void
}
하지만 이슈에서 공유된 단순화 된 문제 유발 IR은 다음과 같이 약간 다릅니다.
https://llvm.godbolt.org/z/azPcMoM7q
단순화 된 IR
define void @test(ptr %p, ptr %p2, i64 %size) {
call void @llvm.memcpy.p0.p0.i64(ptr %p, ptr %p2, i64 %size, i1 false) memory(none)
ret void
}
declare void @llvm.memcpy.p0.p0.i64(ptr, ptr, i64, i1)
문제가 생기는 코드는 다음과 같습니다.
BatchAAResults BAA(*AA);
MemoryUseOrDef *MA = MSSA->getMemoryAccess(M);
// FIXME: Not using getClobberingMemoryAccess() here due to PR54682.
MemoryAccess *AnyClobber = MA->getDefiningAccess();
MemoryLocation DestLoc = MemoryLocation::getForDest(M);
#10 0x000055555657236f in llvm::MemoryUseOrDef::getDefiningAccess (this=0x0) at /home/m/llvm-project/llvm/include/llvm/Analysis/MemorySSA.h:262
#11 0x0000555558f742f5 in llvm::MemCpyOptPass::processMemCpy (this=0x55555ceb25d8, M=0x55555ceb4060, BBI=...) at /home/m/llvm-project/llvm/lib/Transforms/Scalar/MemCpyOptimizer.cpp:1692
#12 0x0000555558f75b60 in llvm::MemCpyOptPass::iterateOnFunction (this=0x55555ceb25d8, F=...) at /home/m/llvm-project/llvm/lib/Transforms/Scalar/MemCpyOptimizer.cpp:1991
#13 0x0000555558f75fe9 in llvm::MemCpyOptPass::runImpl (this=0x55555ceb25d8, F=..., TLI_=0x55555ceb5708, AA_=0x55555ceb4378, AC_=0x55555ceb14f8, DT_=0x55555ceb7e08, PDT_=0x55555ceb3e98, MSSA_=0x55555ce56230)
at /home/m/llvm-project/llvm/lib/Transforms/Scalar/MemCpyOptimizer.cpp:2048
위 코드에서 MSSA->getMemoryAccess(M) 은 null을 반환해 문제가 발생하게 됩니다.
할당된 메모리 공간이 없기 때문입니다.
패치도 다음처럼 앞부분에서 메모리 접근 검사를 하는 것으로 마무리 됐습니다.
bool MemCpyOptPass::processMemCpy(MemCpyInst *M, BasicBlock::iterator &BBI) {
// We can only optimize non-volatile memcpy's.
if (M->isVolatile()) return false;
// If the source and destination of the memcpy are the same, then zap it.
if (M->getSource() == M->getDest()) {
++BBI;
eraseInstruction(M);
return true;
}
// If the size is zero, remove the memcpy. This also prevents infinite loops
// in processMemSetMemCpyDependence, which is a no-op for zero-length memcpys.
if (isZeroSize(M->getLength())) {
++BBI;
eraseInstruction(M);
return true;
}
MemoryUseOrDef *MA = MSSA->getMemoryAccess(M);
if (!MA)
// Degenerate case: memcpy marked as not accessing memory.
return false;
문제가 생기는 경우는 memcpy의 인자가 메모리에 할당된 내역을 찾을 수 없기 때문에 발생하는 것으로, null이 인자로 넘어오는 것을 포괄합니다.
- 끗 -
MemorySSA (TBD)
https://die4taoam.tistory.com/140
'LLVM-STUDY > PATCH' 카테고리의 다른 글
[InstCombine] Generalize folds for inversion of icmp operands (0) | 2023.12.15 |
---|---|
Simplification Comparison for (a | b) ? (a ^ b) : (a & b) etc. (Clang13 vs Clang trunk (0) | 2023.11.12 |
[MemCpyOpt] The store instruction should not be removed by DSE. (0) | 2023.11.07 |
LLVM middle-end 최적화 관련 주의점(?) (0) | 2023.11.06 |
[InstSimplify] Fold (a != 0) ? abs(a) : 0 (0) | 2023.10.31 |
Comments