งานการตรวจสอบภายในจะต้องสะท้อนความเป็นอิสระและการเป็นที่ยอมรับภายในองค์กร ดังนั้นหน่วยงานตรวจสอบภายในจึงอยู่โครงสร้างองค์กรในระดับสูงพอที่จะทำให้ผู้บริหารสูงสุดของหน่วยงานตรวจสอบภายใน สามารถรายงานตรงต่อผู้บริหารระดับสูงที่มีอำนาจเพียงพอที่จะส่งเสริมความเป็นอิสระของผู้ตรวจสอบภายในและนำข้อมูลสารสนเทศจากหน่วยงานตรวจสอบภายในไปใช้ได้อย่างเหมาะสม โครงสร้างของหน่วยงานตรวจสอบภายในในองค์กรจึงมีความสำคัญ โดยหลักการแล้วมีโครงสร้างองค์กร 3 แบบ คือ
1. หน่วยงานตรวจสอบภายในรายงานตรงต่อคณะกรรมการบริษัท
2. หน่วยงานตรวจสอบภายในรายงานตรงต่อกรรมการผู้จัดการ
3. หน่วยงานตรวจสอบภายในรายงานตรงต่อคณะกรรมการตรวจสอบ
ปัจจุบันแบบโครงสร้างที่นิยมคือ หน่วยงานตรวจสอบภายในรายงานต่อตรงคณะกรรมการตรวจสอบ โดยเฉพาะบริษัทจดทะเบียนในตลาดหลักทรัพย์ เนื่องจากตลาดหลักทรัพย์แห่งประเทศไทยได้มีข้อกำหนดให้บริษัทจดทะเบียนต้องมีคณะกรรมการตรวจสอบเพื่อกำกับดูลการดำเนินงานของบริษัทจดทะเบียนให้ได้มาตรฐานและเป็นไปในแนวทางที่ถูกต้อง การที่บริษัทจดทะเบียนมีคณะกรรมการตรวจสอบจะสามารถช่วยสนับสนุนความเป็นอิสระและความเที่ยงธรรมของผู้ตรวจสอบภายใน หน่วยงานตรวจสอบภายในจึงมีภารกิจที่ต้องสนับสนุนการปฏิบัติงานของคณะกรรมการตรวจสอบให้สามารถบรรลุเป้าหมายได้อย่างมีประสิทธิภาพ ดังนั้นหน่วยงานตรวจสอบภายในและคณะกรรมการตรวจสอบจึงต้องมีการติดต่อสื่อสารกันได้อย่างสะดวกโดยตรง
หน่วยงานตรวจสอบภายในต้องรายงานผลการปฏิบัติงานต่อคณะกรรมการตรวจสอบอย่างสม่ำเสมอ โดยทั่วไปอย่างน้อยปีละ 4 ครั้ง โดยคณะกรรมการตรวจสอบเป็นผู้ให้นโยบายสอบทานแผนการตรวจสอบภายใน ให้การสนับสนุนและสร้างผู้ตรวจสอบภายในให้สามารถปฏิบัติงานตรวจสอบอย่างเที่ยงธรรมและอย่างมีความอิสระ
ผู้ตรวจสอบภายในเป็นแหล่งข้อมูลที่สำคัญของคณะกรรมการตรวจสอบในส่วนที่เกี่ยวกับการสอบทานความถูกต้องของรายงานทางการเงิน ความเพียงพอในการเปิดเผยข้อมูลกระบวนการควบคุมภายในและกิจกรรมการบริหารความเสี่ยงของบริษัทในด้านต่างๆ รวมทั้งผู้ตรวจสอบภายในยังเป็นผู้ทำการสอบทานด้านการปฏิบัติงานขององค์กรให้เป็นไปตามกฎหมายด้วยภาระหน้าที่ของคณะกรรมการตรวจสอบและผู้ตรวจสอบภายในจึงมีลักษณะของความเกี่ยวพันอย่างใกล้ชิด หัวหน้าหน่วยงานตรวจสอบภายในจึงต้องทำความเข้าใจ สื่อสารและสนับสนุนให้ภาระหน้าที่ดังกล่าวบรรลุผลในทางปฏิบัติอย่างมีประสิทธิภาพ การปฏิบัติงานอย่างมีคุณภาพของหน่วยตรวจสอบภายในสามารถลดภาระความรับผิดชอบหลักของคณะกรรมการตรวจสอบในเรื่องการสอบทานงบการเงินระบบการควบคุมภายใน การปฏิบัติตามกฎหมายและการเปิดเผยรายการขัดแย้งทางผลประโยชน์ขององค์กร