Friday, July 16, 2010

Calculating DMM Accuracy and Resolution

The figure below shows the accuracy specifications for Agilent’s 34410A 6 ½ digit DMM from the data sheet. Let’s assume we are using the 34410A in the 10 V range, it was calibrated within the last 24 hrs, and we are measuring an exact 5 VDC source. We would use the parameters circled in red in the figure and the following formula to calculate the accuracy and useful resolution of our measurement: +/- (% of reading + % of range). For our hypothetical measurement the 34410A would measure: +/- ((5.0 x .000015) + (10.0 x .000004))--> 5.000115 V to 4.999885 V. Since the last digit does not give use any useful information the 34410A provides 6 ½ digits of resolution and the display would read between 5.00012 V and 4.99989 V.

Now that was pretty easy right? One important variable we need to add to the mix is measurement sample time. Sample time is how long the DMM’s internal ADC samples the voltage before integrating the measurement and displaying the result. In the accuracy calculation that we just did, it was assumed we were using the max sample time of 10 PLCs. PLC stands for power line cycle. In the US we use 60 Hz for AC power so 1 PLC is 16.667 ms (1/60). In other parts of the world 50 Hz is sometimes used so 1 PLC would be 20 ms. The DMM’s sample time units are typically based on PLCs. The more PLCs you sample over the better the accuracy you get (To a point). Of course longer sample times equal less throughput so as always there is a tradeoff. Let’s take the same measurement scenario using the 34410A we used above but this time we want to be able to make 10,000 measurements in 1 second. To do this we must set the DMM’s sample rate to 0.006 PLCs. Since our measurement sample time is so much lower we add another uncertainty part to our accuracy calculation. This is due to power line noise and our integration time is smaller so less random noise is being cancelled out. For the 34410A we add the RMS Noise Adder shown in the figure below circled in red.

Accuracy at the 10 V range for a 5 V measurement at 10,000 meas/s: ((5.0 x .000015) + (10.0 x .000004) + (10.0 x .000012))--> 5.00024 V to 4.99976 V. Once again the last digit in this calculation provides no information so there are only 5 digits of useful resolution. The 34410A’s display would read between 5.0002 V and 4.9998 V.
Be careful when purchasing a DMM that is advertised as having high resolution at high measurement speeds. You want to look at its specs and calculate its accuracy at that speed to ensure the advertised resolution is actually “useful” resolution if it isn’t your just paying for extra digits of random noise.
For more information on understanding DMM accuracy and resolution click here

55 comments:

  1. Really nice calculation. Was it math help services that made it for you? I found great article Digital Multimeter Measurement Fundamentals that can perfectly add this article. But i really like your materials so i think i`m going to read your blog constantly now. Some truly useful tips are listed in your blogs. Thanks!

    ReplyDelete
  2. adAway is an ad-blocking tool which blocks any pop-up that appears
    while you are browsing on your Android device.
    adaway apk download

    ReplyDelete
  3. Hello, there. This is info for students and teachers! Do you want to improve your writing skills this summer? Then navigate to https://topadmissionessay.com/blog/10-useful-and-effective-suggestions-for-how-to-write-personal-statement this site!

    ReplyDelete
  4. That sounds really good! Maybe you should try out using ppsspp gold emulator apk file in your andorid phone.

    ReplyDelete
  5. As an ever increasing number of individuals are relocating from the shut condition of iOS to Android's Open Source World, applications like creehack are picking up prominence. In the event that you are thinking about whether it is conceivable to hack in-application buys on Android without root at that point given me a chance to acquaint you with an astonishing application called check out apps

    ReplyDelete
  6. Recently, I have share snaptube app, you can try it for android phone right now.

    ReplyDelete
  7. Replies
    1. Recently, I have share snaptube app app, you can try it for android phone right now.

      Delete
  8. Recently, I have share snaptube app app, you can try it for android phone right now.

    ReplyDelete
  9. I'm really enjoying the theme/design of your site. Do you ever run into any internet browser compatibility problems? A couple of my blog visitors have complained about my website not working correctly in Explorer but looks great in Firefox. Do you have any suggestions to help fix this problem? Valentinstag 2019

    ReplyDelete
  10. Replies
    1. https://techyhunt.net/tools/tanki-online-free-game-download/

      Delete
  11. thanks for this useful article. you could also check out https://techyhunt.net/tools/tanki-online-free-game-download/

    ReplyDelete
  12. This comment has been removed by the author.

    ReplyDelete
  13. ppssppgold apk
    PPSSPP Gold APK:- Emulation is a very excellent strategy in the tech world to battle against any obsolescence, emulating apps and games have become less

    ReplyDelete
  14. Hanuman Chalisa in English: Reading Hanuman Chalisa is very beneficial for all. It is not only related to your faith and religion but also to eliminate your physical and mental problems.

    ReplyDelete
  15. Thank you for share great article also check out Skyrim from Gamesdoz

    ReplyDelete
  16. شركة تنظيف شقق بالرياض http://ow.ly/P0iM50ovY2L التنظيف ليس أمر عابر أو أمر من أمور الرفاهية فهو من أساسيات الحياة وطالما حافظت علي منزلك نظيف خالي من الأتربة والرواسب ستحافظ علي حياتك خالية من كافة الأمراض المختلفة
    متلك اسطول عمالة ذوى خبرة كبيرة حيث يعمل معنا منذ فترة طويلة خبرتة الكبيرة التى اكتسبها والأمانة التى يتصف بها جعلتنا فى صدارة شركات التنظيف.يقوم فريق العمالة بتقسيم نفسة الى اكثر من فريق ليعلم كل واحد منهم مهمتة ويؤديها بإتقان يتحرى الدقة طوال مراحل العمل

    لوجود مشرف يتمم على عملية التنظيف. فريق يقوم بتنظيف غرف النوم وفريق اخر مهمتة تنظيف غرف المعيشة والاخر لتنظيف المطابخ والحمامات

    لن يخرج فريق العمل الا بعد ان يسلمك بيت نظيف خالى تماما من اى اتربة او غبار ومطبخ نظيف تماما خالى من الدهون والزيوت .
    كما ستبقى النظافة سلوك طبيعي دوري بالنسبة إليك ولذلك فشركة دريم هاوس تقدم كل خدماتها الخاصة بالنظافة وذلك حرصا منها علي نظافة وصحة العملاء كما توفر كل هذا من خلال طريقة مميزة ومحترفة جدا في التنظيف بشكل عام .… اقرأ المزيد
    المصدر: شركة تنظيف شقق بالرياض

    شركة مكافحة الفئران بالرياض http://ow.ly/3Xtk50ovYqc أصبح يوجد الكثير من شركات مكافحة الفئران في الرياض ، التي تعمل في القضاء على أي نوع من الحشرات سواء كان قوارض أو زاحفه أو طائره بشكل نهائي، و نظراً لكثره شكاوي مدينه الرياض من الفئران والقوارض.

    فقد قررت الشركة على أن تكثف اهتماماتها بأعمال مكافحة الفئران و القضاء على مشكله القوارض المزعجة بشكل نهائي.
    كما أن حرصت شركة مكافحة فئران بالرياض على أن توفر طرق تساعد على التخلص من كافة أنواع الفئران بأحجامها المختلفة.
    لأننا جميعاً نعلم أن تواجد القوارض في المنزل من أكثر الأشياء التي تسبب للسيدة الرعب والفزع، ولكل للموجودين بالمنزل وبالأخص الأطفال ومن المعروف أن الفئران من القوارض التي تقوم بتخريب المنزل وتقضي على الأخضر واليابس بها عن طريق على تدمير الأثاث الخشبي والطعام لذا حرصت الركة علي ان تخلصك من كل هذه المشكلة في أسرع وقت ممكن فبادر بالاتصال بها. … اقرأ المزيد

    المصدر: شركة مكافحة الفئران بالرياض

    افضل شركة جلي بلاط بالرياض http://ow.ly/sVIm50ow3T4 لا شك أن رونق البلاط أو الرخام يساهم في تحسين المظهر في الفلل والقصور كما يضفي بريقا لامعا على مظهرها مما يعني أن اتساخها و تغطيتها بالأتربة يجعلها تفقد ذلك البريق .
    تقدم شركتنا أفضل خدمة لجلي البلاط والرخام وإعادة مظهره اللامع والبراق له مع توظيف كافة المعدات الحديثة لديها و أمهر عمالة مدربة على هذا الغرض .
    للشركة باع طويلة وخبرة سابقة في تنظيف الرخام والبلاط للفلل والقصور والمنازل ومداخل الشركات والمكاتب والمؤسسات
    لسنا الوحيدين لكننا الأفضل في عالم جلي الرخام والبلاط وإعادة مظهره البراق ولمعته وبدون تجريحه أو خدشه وهذا سر تميزنا عن باقي الشركات … اقرأ المزيد

    المصدر: شركة جلي بلاط بالرياض

    ReplyDelete
  17. Thank you share great article also check out chatiw

    ReplyDelete
  18. This story is very interesting. Thank you for this great story.
    คาสิโนออนไลน์ที่น่าเชื่อถือและมีความเป็นมืออาชีพที่สุดในตอนนี้
    โปรโมชั่นGclub ของทางทีมงานตอนนี้แจกฟรีโบนัส 50%
    เพียงแค่คุณสมัคร สล็อตออนไลน์ กับทางทีมงานของเราเพียงเท่านั้น
    ร่วมมาเป็นส่วนหนึ่งกับเว็บไซต์คาสิโนออนไลน์ของเราได้เลยค่ะ
    สมัครสล็อตออนไลน์ >>> Goldenslot
    สนใจร่วมสนุกกับ คาสิโนออนไลน์ คลิ๊กได้เลย
    มีทั้งคาสิโนออนไลน์ หวยออนไลน์ ฟุตบอลออนไลน์ สล็อตออนไลน์ และอื่นๆอีกมากมาย


    ReplyDelete
  19. Hey There!
    I have a blog on gaming.
    Check my latest post: Plant vs Zombies

    ReplyDelete
  20. لوجود مشرف يتمم على عملية التنظيف. فريق يقوم بتنظيف غرف النوم وفريق اخر مهمتة تنظيف غرف المعيشة والاخر لتنظيف المطابخ والحمامات

    لن يخرج فريق العمل الا بعد ان يسلمك بيت نظيف خالى تماما من اى اتربة او غبار ومطبخ نظيف تماما خالى من الدهون والزيوت .
    كما ستبقى النظافة سلوك طبيعي دوري بالنسبة إليك ولذلك فشركة دريم هاوس تقدم كل خدماتها الخاصة بالنظافة وذلك حرصا منها علي نظافة وصحة العملاء كما توفر كل هذا من خلال طريقة مميزة ومحترفة جدا في التنظيف بشكل عام .… اقرأ المزيد source

    ReplyDelete
  21. hey there please visit my website for more information best water softener system

    ReplyDelete
  22. FM WhatsApp GBwhatsapp Yowhatsapp will help you to change the interface of boring Whatsapp with the help of YoThemes
    Whatsopp

    ReplyDelete
  23. Hi there if youre looking for the best water softener please check best water softener system

    ReplyDelete
  24. i have used it for calculation purpose and its outcome is outstanding. with study it is also important to relax your self. visit my site for best strategy game https://cocmodo.com/

    ReplyDelete
  25. [url=https://cocmodo.com]cocmodo[/url]

    ReplyDelete
  26. mybpcreditcard com pay my bill
    If you are more into using Credit cards, then BP Credit Card will find you easy options to go ahead with your shopping and dining.

    ReplyDelete
  27. disney hub login portal enterprise

    The Walt Disney Company, commonly known as Disney is an American diversified multinational mass media and entertainment conglomerate headquartered at ...

    ReplyDelete