Thủ tục thành lập ủy ban điều tra của Nghị viện thường khá đơn giản, chủ yếu dựa trên kiến nghị của các nghị sĩ, có thể từ một hoặc một số lượng nghị sĩ nhất định. Kiến nghị của nghị sĩ được thảo luận tại phiên họp toàn thể của nghị viện và Nghị viện sẽ quyết định có thành lập ủy ban đó hay không, chức năng, nhiệm vụ và phạm vi điều tra đến mức độ nào, chỉ định các thành viên, bầu chủ tịch ủy ban (thông thường là người của đảng đa số trong nghị viện) và xác định kinh phí cho hoạt động của ủy ban.
Thông thường, các ủy ban điều tra được thành lập riêng biệt ở mỗi viện của Nghị viện. Hiến pháp Nhật Bản quy định quyền của mỗi viện tiến hành điều tra về những vấn đề quản lý nhà nước (Điều 62). Một số nước lại quy định không chỉ sự thành lập các ủy ban điều tra độc lập ở mỗi viện, mà còn có các ủy ban điều tra hỗn hợp (Tây Ban Nha). Mỗi viện của Quốc hội Mỹ có thể thành lập trong viện mình các ủy ban điều tra, hoặc cũng có khi cả hai viện cùng nhau thành lập ủy ban điều tra. Ở Mỹ, ủy ban điều tra có thể là ủy ban thường trực của một viện. Các cuộc điều tra có thể do các ủy ban thường trực của viện đó tự ý tiến hành miễn là thuộc thẩm quyền của ủy ban. Thông thường, hoạt động điều tra của Quốc hội do các tiểu ban tiến hành.
Quốc hội Liên bang Đức
Ủy ban điều tra cũng có thể được Nghị viện thành lập theo phương thức đặc biệt. Theo đó, ủy ban không chỉ có các thành viên là nghị sĩ mà cũng có thể có thành viên là các cá nhân ngoài Nghị viện, họ làm việc vô tư, công bằng và có uy tín về chuyên môn.
Đặc biệt quan trọng là, để một ủy ban điều tra hoạt động có hiệu quả, ngay bước đầu thành lập, ủy ban này phải bảo đảm được tính độc lập. Tính độc lập trong hoạt động của ủy ban thể hiện trước hết ở chỗ, các thành viên của ủy ban và các chuyên viên giúp việc phải được cung cấp ngân sách độc lập và phải độc lập về lợi ích, tức là không liên quan đến công việc chính trước đây của mình, không có các mối quan hệ gia đình, thân thuộc với các đối tượng bị điều tra.
Hoạt động điều tra của các ủy ban trong Nghị viện Đức được quy định cụ thể tại Điều 44, Đạo luật cơ bản của Cộng hòa Liên bang Đức. Nghị viện Đức có quyền, còn theo kiến nghị của 1/4 thành viên bắt buộc phải thành lập ủy ban điều tra để thu thập những chứng cứ cần thiết với hình thức công khai, trừ một số trường hợp. Việc thu thập chứng cứ được tiến hành theo thủ tục tố tụng hình sự. Bí mật thư tín, bưu phẩm, điện tín không bị xâm phạm. Các tòa án và chính quyền bắt buộc phải giúp đỡ về mặt pháp lý và chuyên môn đối với ủy ban điều tra.
Các phiên họp của ủy ban điều tra có thể công khai, nhưng cũng có thể họp kín. Trong khi nghị viện các nước Bỉ, Thụy Sỹ, Ireland, Italy không có điều tra kín, hoặc như phần lớn các cuộc điều tra của Nghị viện Israel là công khai, thì ở nhiều nước chúng có thể diễn ra mà không có sự tham dự của công chúng, báo chí. Thậm chí ở Na Uy, Zambia, Zimbabwe, mọi cuộc điều tra của nghị viện đều không công khai. Tuy nhiên, ở những nước ủy ban điều tra có thể họp kín, có những quy định cụ thể về các trường hợp này. Ví dụ, ở Mỹ, ủy ban điều tra chỉ họp kín khi bàn về việc bổ nhiệm các vị trí hành pháp hoặc các điều ước đã lên lịch. Ở Canada, Sudan, ủy ban điều tra họp kín về các vấn đề liên quan đến an ninh quốc gia hoặc lợi ích công đòi hỏi. Ở CHLB Đức, các cuộc họp kín diễn ra khi bàn về bí mật quốc gia hoặc dữ liệu cá nhân có tầm quan trọng đặc biệt.
