Friday, July 16, 2010

Calculating DMM Accuracy and Resolution

The figure below shows the accuracy specifications for Agilent’s 34410A 6 ½ digit DMM from the data sheet. Let’s assume we are using the 34410A in the 10 V range, it was calibrated within the last 24 hrs, and we are measuring an exact 5 VDC source. We would use the parameters circled in red in the figure and the following formula to calculate the accuracy and useful resolution of our measurement: +/- (% of reading + % of range). For our hypothetical measurement the 34410A would measure: +/- ((5.0 x .000015) + (10.0 x .000004))--> 5.000115 V to 4.999885 V. Since the last digit does not give use any useful information the 34410A provides 6 ½ digits of resolution and the display would read between 5.00012 V and 4.99989 V.

Now that was pretty easy right? One important variable we need to add to the mix is measurement sample time. Sample time is how long the DMM’s internal ADC samples the voltage before integrating the measurement and displaying the result. In the accuracy calculation that we just did, it was assumed we were using the max sample time of 10 PLCs. PLC stands for power line cycle. In the US we use 60 Hz for AC power so 1 PLC is 16.667 ms (1/60). In other parts of the world 50 Hz is sometimes used so 1 PLC would be 20 ms. The DMM’s sample time units are typically based on PLCs. The more PLCs you sample over the better the accuracy you get (To a point). Of course longer sample times equal less throughput so as always there is a tradeoff. Let’s take the same measurement scenario using the 34410A we used above but this time we want to be able to make 10,000 measurements in 1 second. To do this we must set the DMM’s sample rate to 0.006 PLCs. Since our measurement sample time is so much lower we add another uncertainty part to our accuracy calculation. This is due to power line noise and our integration time is smaller so less random noise is being cancelled out. For the 34410A we add the RMS Noise Adder shown in the figure below circled in red.

Accuracy at the 10 V range for a 5 V measurement at 10,000 meas/s: ((5.0 x .000015) + (10.0 x .000004) + (10.0 x .000012))--> 5.00024 V to 4.99976 V. Once again the last digit in this calculation provides no information so there are only 5 digits of useful resolution. The 34410A’s display would read between 5.0002 V and 4.9998 V.
Be careful when purchasing a DMM that is advertised as having high resolution at high measurement speeds. You want to look at its specs and calculate its accuracy at that speed to ensure the advertised resolution is actually “useful” resolution if it isn’t your just paying for extra digits of random noise.
For more information on understanding DMM accuracy and resolution click here


  1. Really nice calculation. Was it math help services that made it for you? I found great article Digital Multimeter Measurement Fundamentals that can perfectly add this article. But i really like your materials so i think i`m going to read your blog constantly now. Some truly useful tips are listed in your blogs. Thanks!

  2. adAway is an ad-blocking tool which blocks any pop-up that appears
    while you are browsing on your Android device.
    adaway apk download

  3. Hello, there. This is info for students and teachers! Do you want to improve your writing skills this summer? Then navigate to this site!

  4. That sounds really good! Maybe you should try out using ppsspp gold emulator apk file in your andorid phone.

  5. As an ever increasing number of individuals are relocating from the shut condition of iOS to Android's Open Source World, applications like creehack are picking up prominence. In the event that you are thinking about whether it is conceivable to hack in-application buys on Android without root at that point given me a chance to acquaint you with an astonishing application called check out apps

  6. Recently, I have share snaptube app, you can try it for android phone right now.

  7. Replies
    1. Recently, I have share snaptube app app, you can try it for android phone right now.

  8. Recently, I have share snaptube app app, you can try it for android phone right now.

  9. I'm really enjoying the theme/design of your site. Do you ever run into any internet browser compatibility problems? A couple of my blog visitors have complained about my website not working correctly in Explorer but looks great in Firefox. Do you have any suggestions to help fix this problem? Valentinstag 2019

  10. Replies

  11. thanks for this useful article. you could also check out

  12. This comment has been removed by the author.

  13. ppssppgold apk
    PPSSPP Gold APK:- Emulation is a very excellent strategy in the tech world to battle against any obsolescence, emulating apps and games have become less

  14. Hanuman Chalisa in English: Reading Hanuman Chalisa is very beneficial for all. It is not only related to your faith and religion but also to eliminate your physical and mental problems.

  15. Thank you for share great article also check out Skyrim from Gamesdoz

  16. شركة تنظيف شقق بالرياض التنظيف ليس أمر عابر أو أمر من أمور الرفاهية فهو من أساسيات الحياة وطالما حافظت علي منزلك نظيف خالي من الأتربة والرواسب ستحافظ علي حياتك خالية من كافة الأمراض المختلفة
    متلك اسطول عمالة ذوى خبرة كبيرة حيث يعمل معنا منذ فترة طويلة خبرتة الكبيرة التى اكتسبها والأمانة التى يتصف بها جعلتنا فى صدارة شركات التنظيف.يقوم فريق العمالة بتقسيم نفسة الى اكثر من فريق ليعلم كل واحد منهم مهمتة ويؤديها بإتقان يتحرى الدقة طوال مراحل العمل

    لوجود مشرف يتمم على عملية التنظيف. فريق يقوم بتنظيف غرف النوم وفريق اخر مهمتة تنظيف غرف المعيشة والاخر لتنظيف المطابخ والحمامات

    لن يخرج فريق العمل الا بعد ان يسلمك بيت نظيف خالى تماما من اى اتربة او غبار ومطبخ نظيف تماما خالى من الدهون والزيوت .
    كما ستبقى النظافة سلوك طبيعي دوري بالنسبة إليك ولذلك فشركة دريم هاوس تقدم كل خدماتها الخاصة بالنظافة وذلك حرصا منها علي نظافة وصحة العملاء كما توفر كل هذا من خلال طريقة مميزة ومحترفة جدا في التنظيف بشكل عام .… اقرأ المزيد
    المصدر: شركة تنظيف شقق بالرياض

    شركة مكافحة الفئران بالرياض أصبح يوجد الكثير من شركات مكافحة الفئران في الرياض ، التي تعمل في القضاء على أي نوع من الحشرات سواء كان قوارض أو زاحفه أو طائره بشكل نهائي، و نظراً لكثره شكاوي مدينه الرياض من الفئران والقوارض.

    فقد قررت الشركة على أن تكثف اهتماماتها بأعمال مكافحة الفئران و القضاء على مشكله القوارض المزعجة بشكل نهائي.
    كما أن حرصت شركة مكافحة فئران بالرياض على أن توفر طرق تساعد على التخلص من كافة أنواع الفئران بأحجامها المختلفة.
    لأننا جميعاً نعلم أن تواجد القوارض في المنزل من أكثر الأشياء التي تسبب للسيدة الرعب والفزع، ولكل للموجودين بالمنزل وبالأخص الأطفال ومن المعروف أن الفئران من القوارض التي تقوم بتخريب المنزل وتقضي على الأخضر واليابس بها عن طريق على تدمير الأثاث الخشبي والطعام لذا حرصت الركة علي ان تخلصك من كل هذه المشكلة في أسرع وقت ممكن فبادر بالاتصال بها. … اقرأ المزيد

    المصدر: شركة مكافحة الفئران بالرياض

    افضل شركة جلي بلاط بالرياض لا شك أن رونق البلاط أو الرخام يساهم في تحسين المظهر في الفلل والقصور كما يضفي بريقا لامعا على مظهرها مما يعني أن اتساخها و تغطيتها بالأتربة يجعلها تفقد ذلك البريق .
    تقدم شركتنا أفضل خدمة لجلي البلاط والرخام وإعادة مظهره اللامع والبراق له مع توظيف كافة المعدات الحديثة لديها و أمهر عمالة مدربة على هذا الغرض .
    للشركة باع طويلة وخبرة سابقة في تنظيف الرخام والبلاط للفلل والقصور والمنازل ومداخل الشركات والمكاتب والمؤسسات
    لسنا الوحيدين لكننا الأفضل في عالم جلي الرخام والبلاط وإعادة مظهره البراق ولمعته وبدون تجريحه أو خدشه وهذا سر تميزنا عن باقي الشركات … اقرأ المزيد

    المصدر: شركة جلي بلاط بالرياض