בשנת תרפ"ה (1925) עלה לירושלים משאת נפשו, וכאן הפך את ביתו בית-ועד לחכמים. בהיותו ידוע כבעל היקף ראייה רחב ובקי בהוויות עולם, נהרו אליו ממקומות שונים להתייעצות בענייני הלכה והנהגת הציבור. ספרייתו התורנית היא מן היחידות במינן.... 

בתקופת כהונתו היתה המדינה בראשית דרכה. מאבקי הרבנות בנושאים שונים אז היו משמעותיים לאותם זמנים ולעתיד לבוא. היו אלה ימים סוערים בתולדות המדינה ובתולדות הרבנות הראשית בפרט. כאמור, לא חשש הרב נסים להשמיע את דעתו בכל עניין שנראה לו שעל הסמכות הרוחנית לומר את דברה, גם אם אלה לא היו לרוחו של השלטון אשר לא אחת תקף את צעדיו והחלטותיו. אופיו האמיץ וסלידתו מן החנופה סייעו לו להנהיג את הרבנות בתקופה של זעזועים קשים.